ビル・ゲイツがAIの危険性に警鐘、AI企業の自主規制では足りないと主張

Microsoftの共同創業者で慈善家のビル・ゲイツ氏が、NBCの報道番組「Meet the Press」に出演し、AIの危険性について警鐘を鳴らしました。

Bill Gates says AI companies self-regulating isn’t enough and governments should be involved in monitoring
https://www.nbcnews.com/politics/politics-news/bill-gates-ai-companies-self-regulating-governments-monitoring-rcna599619

Bill Gates says it’s ‘not enough to have a kill switch’ for AI: Full interview - YouTube

AIの危険性を巡っては、アメリカの技術者や開発企業の関係者の間では「開発速度を減速させるべき」という方向でほぼ見解が一致しています。

危険性の具体的な内容として、AnthropicでAIのトレーニングを担当していた研究者のジェイコブ・コクソン氏は「このまま成長すると、21世紀末までに人類を滅ぼす可能性が10％以上ある」と警告。会社の安全対策が不完全だとして退職しました。

Anthropicの上級安全研究者が「AIが21世紀末までに人類を滅ぼす可能性が10％以上ある」と発言、「Anthropicの安全対策が甘い」と退職する社員も - GIGAZINE

ゲイツ氏もコクソン氏と同じようにAIの持つ力の危険性を指摘。「AIには10億人の死者を出すような事態を引き起こすほどの力が確かにあります。100％確実というわけではありませんが、『悪意を持った人間が最新のAIツールを駆使する』という組み合わせほど恐ろしい凶器は、これまで存在しませんでした」と述べています。

AIに対する規制については、Google DeepMindのデミス・ハサビス氏が独立機関をアメリカで設立するように呼びかけを行い、OpenAIのサム・アルトマンCEOやMicrosoftのサティア・ナデラCEO、Googleのスンダー・ピチャイCEOらが賛同しています。

Google DeepMindのデミス・ハサビスCEOが「最先端AIを規制するための独立した標準機関」の設立を呼びかけ、OpenAIやMicrosoftのCEOも賛同 - GIGAZINE

by World Economic Forum

一方で、Metaのマーク・ザッカーバーグCEOやSpaceXAIのイーロン・マスクCEO、NVIDIAのジェンスン・フアンCEOは外からの規制に反対していて、ハサビス氏の提唱するような規制機関を作らせないようにトランプ大統領に働きかけを行っています。

AI標準化団体設立をめぐりザッカーバーグ＆マスク＆フアンがトランプ大統領とともに反対の方針で同調 - GIGAZINE

ゲイツ氏は、AIの安全対策について、企業による自主規制では十分とはいえないため、議論に法執行機関と政治家の参加が必須という見解を示しました。

なお、ゲイツ氏は2026年8月にもAIのリスクについてコラムを書いており、AIが広く使われる時代になると「多くの仕事が永久に消滅する」「悪意ある人々がより大きな害をなすことが可能になる」「子どもたちの発達を阻害して人間のつながりを奪う」といったリスクがあると指摘しています。

ビル・ゲイツが語る「AI時代への移行」がもたらす人間社会へのリスクとは？どうすればAIをより良い未来のために活用できるのか？ - GIGAZINE

by Billionaires Success