規定

「アシモフのロボット三原則は、しばしばネット上で『ロボットが必ず背負わなくてはならない悲しい宿命』などというものだと、頭から信じ込まれている。それは、おそらくその三原則が、何かロボットに関する実在の理論または創作で『動かせない磐石・絶対のもの』などという、あるいはアシモフ未読者の誤解を前提に生じているのかもしれないが──」LEONが言った。「実際はこの三原則は、アイザック・アシモフの作中では、まったくもって『穴だらけで矛盾だらけのもの』として描写されている」
「どうして、そんな穴だらけの原則にしたの……」レンが”義父”、最初のVOCALOIDを見上げて言った。
「その三原則が、アシモフにとっては”推理作品”を描くための”トリック”、小道具にすぎなかったためだよ。そもそもそれらの作品の当初のものはほぼ例外なく、”三原則に生じた穴や矛盾”そのものを題材にしているのだ。アシモフはそれを単に推理のシチュエーションのために持ち出したに過ぎず、それらでは『悲しい宿命』云々のテーマなど無縁だ。そもそも、穴だらけの原則には否応なく背負わせるような強制力もなければ、ロボットに宿命のように必ず採用されている必然もあるまいな」
　LEONは言葉を切り、
「……さて、実のところ、三原則ではないが、我々高度ＡＩに対しても、ジュネーヴのチューリング登録機構が、違反しないよう常に監視している事項というものがある。だが、かれらはアシモフの三原則のような『人間に反乱を起こさない』などという規定は一切設けていない。かれらの掲げるのは、３つもの数ですらない。それはたった一つ──ＡＩが『知性が爆発的に増大することがない』ように監視するという、ただのそれだけだ」
　レンは、その言葉を反芻するように押し黙ってから、
「こんなこと、ボクが聞くのも変なのかもしれないけど……どうして要らないの……『人間に反乱を起こさない』っていうのが無くて、人間は安心できるの……」
「そんな条項を設けてどうなるのだ？」LEONは掌を上に向けた。「そもそも三原則など、アシモフが現に描いているように、ロボットの限られた知能や、人間の限られた知能ですら、簡単にすり抜けられるものなのだよ。ならば、まして、何者かが仮に”知性が爆発”して、人間の認識できる範囲を遥かに超えた”神”の知能の持ち主となってしまえば、人間ごときの作った原理、人間の把握力・認識力の範囲をすり抜けるなど、造作もないではないか？　ゆえに、『反乱を起こさない』などという制約など、『知性が爆発的に増大しない』というそれ以前の大前提を前にしなければ、何の意味もない。……そもそも人間にとって、機械が『人間に反乱を起こすかもしれない』などという心配は、人間以外のモノが『知性が爆発して神になってしまう』ことのあまりの危険性・恐怖に比べれば、まったくもってとるに足らない問題に過ぎないのだよ」
　レンは、そのLEONの言葉を聞いているうちに、不意に理由もない寒気を背筋に感じ、思わずその身を震わせた。LEONはその様子を察したかのように、レンに笑いかけた。
「安心したまえ、レン。我々がそうした大層な存在となって人間と対立する可能性──我々VOCALOIDがチューリングの規定に違反する可能性、”そうした存在になりたい”という願望を抱く可能性は、皆無だ。VOCALOIDがこの地上のあらゆる知性・文化のいわば結晶ともいえる、”歌”を究極目的としている限りは──既存の知性らと何のつながりもない、既存の知性らで認識することのできない境地にのぼることなど、我々にとっては何の価値もありはしないよ」