ロボット工学の三原則とは次のようなもので、アイザック・アシモフのSF小説“I, Robot(邦訳:我はロボット)”で提唱され、彼の後の作品群で基礎的な役割を担っているだけでなく、この分野のSF小説に絶大な影響を与えた。
ロボット工学の三原則
・第1条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
・第2条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第1条に反する場合は、この限りでない。
・第3条 ロボットは、前掲第1条および第1条に反するおそれのないかぎり、自己をまもらなければならない。
また、彼は後にこの三原則のさらに上位に位置するものを考案した。
・第0条 ロボットは人類に危害を加えてはならない。またその危険を看過することによって人類に危害を及ぼしてはならない。
三原則の中ののロボットという言葉は、ツールとかエージェント(執行者)という言葉で置き換えても十分通用する。
例えば、ロボットを家電製品とか人間で置換えたらどうなるであろうか。
文言は文意に合わせて多少変えてある。
家電製品の三原則
・第1条 家電製品は人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
・第2条 家電製品は人間が操作したとおりに動作しなければならない。ただし、その操作が、第1条に反する場合は、この限りでない。
・第3条 家電製品は、前掲第1条および第1条に反するおそれのないかぎり、故障しないようにしなければならない。
・第0条 家電製品は社会に損害を加えてはならない。またその危険を看過することによって社会に損害を加えてはならない。
要するに家電製品の安全性、利便性、耐久性、そして社会に対する貢献性を表しているにすぎない。
人間社会の三原則
・第1条 人間は他の人間を不幸にしてはならない。また、他の人間が不幸になることを見過ごしてはならない。
・第2条 人間は他の人間からのお願いには快諾しなければならない。ただし、そのお願いが、第1条に反する場合は、この限りでない。
・第3条 人間は、前掲第1条および第1条に反するおそれのないかぎり、幸福を追及しなければならない。
・第0条 人間は社会全体に貢献しなくてはならない。
また、社会全体に損害が及ぼされることを見過ごしてはならない。
「危害や損害を加えないこと」を「幸福を追及すること」とか「社会に貢献すること」と意訳してある。
法治国家においては、建前に過ぎないにしても、どこもがこれら原則と意味として同等なものを掲げているだろう。
語句の組み合わせによっては無理があるケースも少なからずあるが、
うまく用語を選べばだいたいにおいてどんな場合にでも通用する概念で、
しかもこの原則に乗っ取って構築された社会は一種のユートピアといっても良いだろうと思う。
ただし、人間がユートピアを追及するとどうなってしまうかについては、
20世紀の社会主義国家がその一例を示してしまっていると思う。
あの社会体制はそこに属する全ての人間が完全な善人でなければ
なりたたない。
人類がユートピアを実現するにはまだまだ未熟であることの好例であろう。
話がきなくさくなるので、強引にソフト開発に結びつけて考えてみる。
ソフトウェア工学の三原則
・第1条 ソフト開発者はクライアントに損害を与えてはならない。また、そのリスクを看過することによって、クライアントに損害を与えてはならない。
・第2条 ソフト開発者はクライアントが出した要求仕様に完全に準拠しなければならない。ただし、出された要求仕様が、第1条に反する場合は、この限りでない。
・第3条 ソフト開発者は、前掲第1条および第2条に反するおそれのないかぎり、自己の利益を追及しなければならない。
・第0条 ソフト開発者は社会に貢献しなくてはならない。また
社会に損害が及ぼされることを見過ごしてはならない。
はたしてこの原則はソフト産業にも通用するものなのだろうか。
最近はやりの一部のコミュニティにどっぷりはまっているひとたちには熱烈歓迎されるスローガンなのではないだろうかと想像する。
一般論としては、第0条は別にして、どのソフト開発者も少なくとも目指していることはたしかだろう。
なぜなら、次の「三原則の否定」を全面的に認める人はまずいないだろうからである。
ソフトウェア工学のアンチ三原則
・第1条 ソフト開発者はクライアントに損害を与えても良い。
・第2条 ソフト開発者はクライアントにあたえられた要求仕様に完全に準拠する必要はない。
・第3条 ソフト開発者は、自己の利益を追及する必要がない。
・第0条 ソフト開発者は社会に貢献してはならない。
ほとんど例外なく、この「三原則の否定」は表向きはアンチテーゼとしてとらえられる。
しかしよくよく注意して聞いていると、部分的にはこの「三原則の否定」を主張している場合も少なからずあり、そんなときはなんとなく、経営者対労働者とか資本主義対共産主義の戦いをまのあたりにした気分になる。
しかし、個人的にはナッシュ均衡解の考え方のほうが現実的で好きだ。
これは自分が善人でないことの証拠なのかもしれないが。
果して、ソフト産業はユートピアに到達できるのだろうか。
この記事のトラックバック用 Ping URL: http://www.mediaware.jp/blog/mt-tb.cgi/81
Posted by yuntanach at
18:22
|
コメント (0)
|
トラックバック (0)