毎日話題に上がらない日がなくなってきた最近のAIですが、今のところそのほとんどがLLMという手法によるモノです。
超巨大なデータベースを学ばせて、そこに大量のパラメータを用いるのですが、その数は数十億〜数兆規模になっているらしいです。
このように我々がイメージしているよりも、根っこの原理はシンプルなのですが、ここで空恐ろしいことが起きつつあるのです。
それは、AIに問題を解かせたときに、内部でどのような動きを経て回答を出したのかが、当事者である開発者にも把握できなくなって来ているということ。
しかも、近い将来にはAI自身がより強力なAIを開発するようになってくるはずなので、そうなったらもう人間はお手上げです。
地球上の誰もその内部の動きを把握することができなくなってしまうのです。これは大変なことですね。
そうなる前に、世界中の知恵を総動員してでも、安全対策を考えていかなければならないのです。これは、陳腐な国境を超えて人類が力を合わせる必要があるということですね。
ーーーーーーーーーーーーー
こちらの動画も是非ご視聴ください。