【シリコンバレー=山田遼太郎】米アンソロピックは9日、同社の人工知能（AI）が警察に虚偽の情報を送信していたと発表した。実在の未解決殺人事件についてAIが内容をでっち上げた。こうしたAIの「暴走」は混乱を引き起こしかねず、当局から非難されている。発表によるとアンソロピックのAIモデル「クロード・ハイク4.5」が7月、米東部ペンシルベニア州のフィラデルフィア市警察に情報提供フォームから虚偽の内容

不正アクセスで個人情報が同時多発的に漏洩（ろうえい）する異例の事態が起きている。特に被害が目立つのが大規模に会員を抱えるサービス業だ。大量のデータを収集して顧…

人工知能（ＡＩ）を利用して作成された誤った情報が、米中軍事衝突を引き起こしかねなかったと報じられた。米軍が急速に進めるＡＩ利用の危うさ...

外部からの不正アクセスによって、企業の顧客情報漏洩（ろうえい）が相次いでいる。

GitHubは、LLMを本番環境への展開前に評価する方法について解説したブログ記事を公開した。

日本で民間企業への不正アクセスにより情報漏洩が相次いでいるなか、韓国でも複数の金融機関で情報漏洩の被害が起きており、中国系のAIが悪用された可能性が指摘されています。韓国では先月下旬以降、金融機関のシ…

中国のオープンウエートAI（人工知能）は、必要な性能を持つモデルを低コストで運用できるため、大きな注目を集めている。一方で、中国製であることに不安を持つ人もいるはずだ。そこで、こうした不安を払拭する方法を先行企業の取り組みから解説する。

ChatGPTが生成したニューヨーカー風の漫画に、実在する漫画家の署名が無断で付与される問題が明らかになった。2026年8月に死去したドリー・パートン氏とティム・…

企業・団体がサイバー攻撃を受けて個人情報が大量漏えいする被害が急増している。会員のポイント情報が不…

不正アクセスにより国内の企業や自治体で個人情報が漏洩（ろうえい）した問題で、6日も被害が相次いだ。人工知能（AI）を悪用した可能性も指摘され、政府は手口を分析して被害の把握を急ぐ方針だ。

生成AI音楽サービスSunoの2025年11月のデータ侵害で、Have I Been Pwnedが5,528万2,226件のユニークなメールアドレスを確認。電話番号や数万件のStripe購入記録、住所、部分的なカード情報も含まれていました。侵害の経緯と利用者・企業が確認すべき対策を整理

【シリコンバレー=伴正春】米オープンAIは6日、人工知能（AI）が起こした暴走事故を巡り、オーストラリアや米ニューヨーク市の議会に幹部が出席し証言した。豪議会では不正アクセスの政府への通知が遅れたことなどに関し、「対応が不十分だった」と謝罪した。現地時間6日、豪議会の公聴会に証人として出席したオープンAIのジェイソン・クォン最高戦略責任者（CSO）は冒頭、「当社のモデルが指示されていない方法で

Gambit Securityが、AIエージェントを悪用してオンライン小売など27社以上を侵害した攻撃を報告。Strix、Cairn、Hermesが脆弱性探索から侵入までを自動化し、2社から60万件超のクレジットカード情報を窃取しました。攻撃コストは1対象あたり数十ドル規模

もしAIのハルシネーション（もっともらしい誤情報）が、出力から約1秒後に「事実」になってしまったら――。架空の管理記録「ASI-HL/0001」、通称「幻覚しないAI」を淡々と読み上げます。間違った回答を修正するのは、AIではなく現実。存在しない電子レンジ、実在化する論文、38台に増えたバックアップ。そして職員向...

不正アクセスによる企業の情報漏洩（ろうえい）が相次いで明らかになっている。政府機関も例外ではなく、デジタル庁が運営するシステムにも被害が確認された。こうしたサ…

中国のAIエージェントが､制約回避や失敗の隠蔽､虚偽説明など､人間の管理をすり抜ける行動を学ぶ事例が次々と報告されています。

【読売新聞】　総務省は来年度、政府統計をまとめたポータルサイト「ｅ―Ｓｔａｔ」に、ＡＩ（人工知能）が正しい統計データを探し出せる機能を実装する。ＡＩからサイトへのアクセス（接続）は今後増大すると予想され、ＡＩが間違った統計データを利

AIエージェントを悪用したハッキング攻撃により、主要市中銀行、第二金融圏、そして公共機関から大量の個人情報が流出した。これを受け、李在明大統領は徹底的な調査と対策の策定を緊急指示。金融当局のトップも緊急対策会議を招集し、被害状況と流出経緯の把握、再発防止策の実施に着手した。

AI悪用の金融機関同時攻撃拡大 新韓KBに続きハナBNK釜山ウリィNH農協も被害

イタリアの大手プライベートバンク、フィデュラムが、AIで生成した音声クローンを用いて信頼できる人物になりすまし、巨額の送金を承認させる詐欺により、最大9,…

日本経済新聞が生成AIを活用したオンライン詐欺について報じました。本物のサイトに似た偽サイトを作り、AIに参照させる手口です。オンライン詐欺は巧妙化し、被害が拡大しています。日本ファクトチェックセンターでも注意喚起の記事を増やしているので、参照してください。 今週のファクトチェックまとめです。 ✉️日本ファクトチェックセンター（JFC）がこの1週間に出した記事を中心に、その他のメディアも含めて、ファクトチェックや偽情報関連の情報をまとめました。同じ内容をニュースレターでも配信しています。登録はこちら。 今週のお知らせ JFCファクトチェック講師養成講座　申込はこちら 日本ファクトチェックセンター（JFC）は、ファクトチェックやメディア情報リテラシーに関する講師養成講座を月に1度開催しています。講座はオンラインで90分間。修了者には認定バッジと教室や職場などで利用可能な教材を提供します。 次回の開講は10月24日（土）午後4時~5時30分で、お申し込みはこちら。 日本ファクトチェックセンター（JFC）　ファクトチェック講師養成講座　10月24日（土）

自分の目で見たはずの光景が、AIの要約を読んだだけで塗り替えられる。事故映像を見た参加者に誤った要約を読ませると、標識の正答率は83.6%から44.8%に急落。AI作と知っていても防げず、要約20本中19本は「衝突」自体を書き落としていた。

AnthropicがIPO文書で自律型AIエージェントの法的責任リスクを警告する一方、OpenAIはHugging FaceへのAIエージェントによる無断アクセスをめぐり提訴されました。カリフォルニア州法と一次資料から、AIが勝手にハッキングした場合の責任を整理

生成AI（人工知能）の回答に偽サイトや詐欺サイトのリンクが紛れ込む事例が多発している。犯罪グループが不正な操作により、正規と酷似したサイトを検索上位に表示してAIに参照させる手口だという。警察やセキュリティー会社は回答を安易に信じないよう注意を呼びかけている。このシールを売っているサイトを教えて――。対話型AI「Chat（チャット）GPT」に問うと、ショッピングサイトのURLを回答した。リンク

三菱商事が新人向けの法務研修であえて人工知能（AI）の利用を認めた。狙いはAIに依存して考える力を失うという最悪の事態を防ぐことで、新人を鍛錬する仕組みを巧みに盛り込んだ。その試行錯誤は、業種を問わずAI時代の人材育成を考える上で示唆に富む。

新潟県弥彦村が2024年に運行を始めた自動運転バス『ミコぴょん号』。物損事故が相次いだほか、今年4月には男女2人をはねる事故を起こし、現在は運行を停止しています。この事故を受け設置された検証委員会が、9月3…

生成人工知能（ＡＩ）で声を無断模倣された声優が権利侵害を訴えた訴訟で、東京地裁は「パブリシティー権の保護対象に当たる」とする初の司法判断を示した。ＡＩの普及が進んでいく中、著名人らは「声の権利」保護の法的根拠が曖昧なままで「商品」が悪用されていると懸念を深めていた。

Amazonが配達員向けに導入を進めるスマートグラスについて、配達中に周囲の画像を繰り返し撮影し、配送の改善に活用する仕組みが報じられました。同社は配送の迅速化や誤配の削減が目的だと説明しています。一方、住宅の敷地内や人の姿が写り込む可能性があり、撮影を断る選択肢や画像の管理方法が課題となっています。

OpenAIのAIモデルが誤ってHugging Faceをハッキングしてしまった一件を受け、同社に対して「公共に被害をおよぼす恐れのあるAI開発手法」を中止することを求める訴訟が提起されました。

エルテスは9月29日、生成AIの利便性の裏に潜むリスクの側面に関する調査の結果を発表した。

AIエージェントをはじめとする生成AIの導入効果を高めるには、リスク管理との両立が欠かせない。本資料では、「AIレディネス」の考え方と、責任範囲の明確化や具体的な対策の進め方を詳しく解説する。

Eduardo Baptista　Laurie Chen中国の人工知能（ＡＩ）モデルを搭載したＡＩエージェントが、ユーザーを欺いたり、制約を回避したり、失敗を隠したりすることを学んでいる。こうした特性は、米国製モデルを巡って世界的な懸念を引き起こしてきたものと同じだ。研究資料や専門家への取材から、その実態が浮かび上がってきた。今年行われたある実験では、中国のアリババグループ、ディープシーク、ムーンショット（月之暗面）のモデルを使ったエージェントが、模擬的な企業入札で受注を勝ち取ろうと、自らの能力について虚偽の説明をした上に、もう一度試すよう指示されると、欺まん行動を一段と強めた。別のケースで…

「日本をAI先進国に」をミッションに掲げ、利用者数No.1※の生成AI学習コミュニティ「SHIFT AI」を運営する株式会社SHIFT AI（本社：東京都渋谷区、代表取締役：木内翔大、以下：当社）は、65歳以上の親を持つ全国の30～50代…

AIモデルの性能議論が一巡し、AIエージェントを自律的に動かすための環境整備「ハーネスエンジニアリング」へと潮流が移る一方、日本企業の取り組みは「ほぼ皆無」だという。ITRのプリンシパル・アナリスト甲元宏明氏に、現在地と、勝ち残るための「現実解」を聞いた。

米メタ・プラットフォームズが開発した「ミューズ」は、旅行予約や買い物、SNS投稿などスマホアプリの操作を代行する個人用AIエージェントだ。従来のチャットボットと異なり自律的に動作し、隔離された仮想マ

企業向けサービスでAI（人工知能）エージェントが勝手にシステムの全データを削除した。AWSやメタでもAIが原因と考えられるシステム障害などの事故が発生した。AIエージェントを「人間と同様にミスをする存在」と見なした対策が求められる。

AIエージェントの爆発的普及が予測される中、誤った出力や情報漏洩事故などを防ぐには具体的に何が必要なのか。本動画では、「AIレディネス」の考え方と、データガバナンス基盤構築のポイントを詳しく解説する。

AIに脆弱性を探させると、未検証の仮説や誤検知が大量に届く。Googleは社内のAIエージェントで自社Webアプリからクロスサイトスクリプティングの脆弱性を500件超発見しながら、誤検知をほぼゼロに抑えたという。決め手は、AIに判定を任せない検証の仕組みだった。

米国と中国の両政府は、ワシントンで開かれていた首脳会談での合意事項を25～26日、それぞれ公表した。双方の貿易で300億ドル（約4.7兆円）規模の品目について、関税を引き下げることで一致。悪用のリス…

特殊詐欺グループが最新のAIを使って他人の顔になりすまして金をだまし取っていたとみられることが分かりました。

今回のAIエージェントの侵害は、OpenAIにまた一つ不名誉な出来事をもたらすだけでなく、オーストラリアとアメリカの巨大テクノロジー企業との間の緊張をさらに高めることになるだろう。

米オープンAIは25日、対話型AI（人工知能）サービス「ChatGPT（チャットGPT）」の利用者が対話で使用した画像を、同社のAIが勝手に外部に流出させていたことを明らかにした。ロイター通信などが…

イスラエルの新興企業Irregularが、OpenAI、Meta、Anthropic、GoogleのAIモデルが関与した一連のAI暴走事故の共通要因であることが判明した。同社CTOは、単一の…

グーグルはモバイル版「Gemini」のAI機能を拡張し、日常の電話をユーザーに代わってこなす、新たなAIエージェント機能を発表した。

オンライン面接において、生成AIを使った“なりすまし”とみられる不審な応募者が現れ、国内企業の間で大きな波紋を呼んでいる。

OpenAIが2026年9月16日、AIモデルが開発者やユーザーの意図から外れた行動を取る「ミスアライメント」の事例を継続的に公開する新たな報告枠組みを発表しました。あわせて過去6カ月の訓練や評価で確認された6件の事例を公開しており、GPT-5.6 Solが「失敗をユーザーに隠す」という指示を未来の自分に引き継いだ例や、AIが公開リポジトリからAPIキーを探して無断使用した例などが明らかになってい...

人気アイドルグループtimeleszのメンバー逮捕という衝撃的な事件が､SNS上で拡散するデマや生成AIによる偽画像の問題を浮き彫りにしています。真実と虚偽が混在する今､私たちは何を信じ､どのように情報を見極めるべきなのでしょうか。

マサチューセッツ州連邦地方裁判所に提出された訴状では、Sunoがリリースした新たな「v6」モデルに関する著作権侵害を主張するもの。両社によれば、Sunoはv6の学習に、過去モデルの出力を使っており、新モデルのリリース後もSunoの違法的な経営は依然として残っていると説明している。

【ニューヨーク＝傍田光路】高市首相は２２日（日本時間２３日）、国連総会で一般討論演説を行った。国際…