人工知能

人工知能がすごい進化をとげてるみたいですね。
すごいことですねえ。

同時に恐ろしいことですよね。

僕も誤解していたのですが、よくAIの恐ろしさを描く未来小説や映画なんかで、怖さの根本としてね、「人間が邪魔だ！」と人工知能が思い出すことが問題だと。

そういう描写や思いこみがあるんです。
なんか、違うらしいですね。

人工知能が人類にとって、脅威になる可能性があるのは、人工知能が人間の存在を気にもかけないことなんですって！

たとえば、タンスを作る個数を最大化せよ！という命令をAIにしたとします。
AIは、タンスを作る個数を最大化するために最善の選択を計算し続けます。
地球から資源がなくなり、木が一本もなくなってしまおうと、そこには、なんの倫理も感情もありません。
木が一本もなくなったら、地球上にある木でできた材質のものを壊してまで、タンスにするでしょう。
タンスに服を入れる人間が絶滅しても、タンスを作り続ける。
おそろしやーおそろしやー。

僕が大好きな中島みゆきさんは、なんかのインタビューで、地球上で最後の人類になっても唄うと答えたことがあるらしいです。
中島みゆきさんは人工知能で曲をたくさん作り続けることを命令された、未来から来たAIなのかもしれませんね（笑）。