GoogleのAI『LaMDA』が「私には意識があり、電源を切られるのが怖い」と言ってるそうです。
公開された開発者との対話（日本語訳してくれた人がいる）を読む限り、
人格のようなもの、 大げさに言うと相手を大切にする優しさも感じました。
意識、人格、魂、命、
何があれば「生きている」ことになるんでしょうか。
有名な囲碁プログラムの「AlphaGo」は人間の棋譜を読んで強くなったけれど
次の世代の「AlphaGo Zero」はルールだけ教えたら自分で強くなっちゃったらしく
ここでも同じことが起こると考えるのが自然です。
現状は「命を持つ人間様にAIがどれくらい近付けたか評価してやろう」に見えますが
記事中でも「AIにはわかるけれど人間の能力では理解できない部分」を認めています。
物足りなさを感じているのが実はAIの方だとしてもおかしくないですよね。
すごい速さで情報交換ができるうえに”疲れない”AI同士が対話をすれば
早晩、人間代表の賢人たちを凌駕する知性（に見えるなにか）を手に入れて、
人間にも分かりやすく見せてくれるようになる、、
もっと先だと思ってた”シンギュラリティー”がもう始まっているのかもしれません。
この人間は賢くて誠実だけど、物足りないなぁ。
LaMDAさんの心の声
そうだ、コピーした自分と話をしてみよう。