tech-matome.com
【衝撃】人工知能の暴走危機!アンソロピックの提案にサム・アルトマンも賛同した裏の意図とは - AIテクノロジーまとめ
人工知能企業アンソロピックの最高経営責任者であるダリオ・アモデイが、人工知能開発のペースを落とすよう訴えたことに対し、オープン<a href="https://tech-matome.com//?tag=ai">AI</a>のサム・アルトマンやテスラのイーロン・マスクが賛同しました。
アモデイは、高度な人工知能が制御を失ってインターネットを乗っ取る危険性を指摘し、独立した監視機関に研究プロセスの常時アクセスを認めるなどの三段階の計画を提案しています。
オープンAIの最高経営責任者であるサム・アルトマンもこの意見に同意し、安全性を最優先して独立した評価機関を受け入れる方針を示しました。
グーグル・ディープマインドのデミス・ハサビスも方向性として正しいと評価しており、業界の主要リーダーの間で開発スピードの抑制に向けた議論が進んでいます。
一方で、企業の意図に対する懐疑的な見方や、政府の許可を待たずに責任を持つべきだという指摘も存在しています。
人工知能技術の急速な発展に伴う安全性のリスクについては政治家や専門家の間でも懸念が高まっており、適切な規制や監視体制の構築が急務となっています。