日本経済新聞社は2025年7月31日、生成AI（人工知能）の利活用の在り方を考える「NIKKEI生成AIコンソーシアム」ラウンドテーブルを東京都内で開いた。生成AIによるフェイク画像問題と対策、信頼性の評価などのテーマを扱った講演を中心に議論し、信頼できる生成AIの実現が急務との認識を共有した。エンターテインメントでの活用や人間に代わって作業をこなすAIエージェントなどについても、参加各社がそれぞれの取り組みを紹介した。
【講演要旨】最新検出技術で犯罪対策
越前 功氏 国立情報学研究所教授
松葉 威人氏 Citadel AI COO
セキュリティーも脅かす
イベントの冒頭、国立情報学研究所の越前功教授による「AIセキュリティ〜フェイク・偽情報対策のいま」と題した講演が行われた。同教授はこの分野における日本有数の権威であり、複数の先進的研究で知られ、大きな問題となっているディープフェイクや偽情報の現状と対応策について語った。
「直近の半年間で、フェイク動画の量は10倍に増えた」と教授は切り出した。生成AI以降、「拡散モデル」による画像生成手法が一般化したことで、ディープフェイクの品質は急激に改善し、一般化も進んだ。背景にあるのは、フェイク動画を作る技術のカジュアル化と拡散だ。現在はスマートフォン上のアプリやウェブサービスから誰もが使えるようになった。そのため、「有名人の顔や同級生などの顔を使って性的動画を作る行為が、低年齢層にまで広がり始めている」と懸念を示した。
フェイク動画はセキュリティーをも脅かしかねない。典型的なものとして、「スマホで使われる本人確認」を挙げた。自分の顔をスマホのカメラで写して身分証明書などと比べて本人確認をするが、スマホのカメラを乗っ取り、フェイク動画を流すことで認証の仕組みをだますことも可能になるという。
国産データ基盤構築を
ディープフェイクによる動画は、もはや通常の人の目では本物と見分けることが難しいレベルになっている。越前教授は2018年、世界で初めて、フェイク画像を自動的に識別するモデルを発表した。20年からは「インフォデミック（情報のパンデミック）克服」を目指し、科学技術振興機構（JST）が実施する「戦略的創造研究推進事業（CREST）」で、顔のフェイク映像に対抗する技術の開発に取り組んだ。その成果である「SYNTHETIQ VISION」は多くの国内企業に採用され、肖像権の保護や犯罪対策などに使われている。
今後の課題としては、ファクトチェックの自動化による信頼できる情報源の維持・管理、国内にフェイクメディア研究基盤の必要性を挙げた。フェイク動画自体の増加や高精度化は避けられない。学際的研究を通じて「新たな脅威にも対応可能な国産データ基盤を構築することが重要になる」とした。
リスクの可視化必要に
越前教授に続き、企業における「信頼できるAI」の姿について、Citadel AIの松葉威人COO（最高執行責任者）が講演した。同社はAIの信頼性・安全性に関わるリスクを可視化し、企業への導入を進めている。
実際の同社サービス導入を巡り、全社員にLLM（大規模言語モデル）アプリを提供したある大手企業の例を挙げた。この企業では社員に入力禁止ルールを設けていたものの、毎日1万件の大量のログ（記録）を収集。その中から懸念されるリスク情報を見つけるのは困難だった。そこでCitadel AIは①リスクのないログを除外②リスクのあるログを高精度で検出③絶対に流出してはならないクレジットカード情報を検出――という段階的な検出フィルターにかけ、最終的に月間30万件ものログから92件のクレジットカード情報を含むログを検出したという。「規定を作るだけでは駄目、目視でも駄目で、可視化できる技術的な検出手段が必要になる」と強調した。
AIエージェントのリスクについても言及した。複雑なプロセスを経てアウトプットを構築するため、「まさに『わからない』の掛け算の世界となっている」と脅威の大きさを指摘した。このため、AIエージェントの場合、「アウトプットから見た全体でのマクロ的なタスク成功率や、アウトプットに至る各段階での個別タスクが正しく動作しているのかといったミクロ的な評価メトリクス構築の両方が必須」と語った。現在、Citadel AIは企業と共にこの問題を解決するための実証を進めているとも明かした。
タレントを「バーチャルヒューマン」に
國本 知里氏 Cynthialy 代表
AIのエンターテインメント領域での可能性を巡り、Cynthialyの國本知里代表はキャラクターAIについて語った。
同社は、人の姿や声、コミュニケーションの部分を生成AIで再現したバーチャルヒューマンを開発。その代表が「AIシンゴ」だ。タレントの村上信五氏をモデルにしたもので、「表情や人格などすべてを再現したバーチャルヒューマン」（國本氏）という。AIシンゴはユーチューブに「AIシンゴCHANNEL」も開設。すでにフォロワー数は5万3千人以上だ。さらにAIシンゴを村上氏の公演に参加させるなどの取り組みも行っており、「一切の事前練習や打ち合わせをせずに、村上氏本人とAIシンゴとの漫才もできるところまできた」と説明する。
AIが事実と異なる回答をするハルシネーション（幻覚）などの問題はあったという。だが「皆でこのAIを育成しよう」という前提で「完璧を求めず、一緒に作っていくことがこのプロジェクトのポイント」とした。
國本氏は「バーチャルヒューマンには大きな可能性がある」と語り、例として、家庭教師や企業のカスタマーサポート、キャリアコンサルティングなどでの活用を挙げた。
【有識者コメント】「総合格闘技」として対応を
ラウンドテーブルに参加したアドバイザーと有識者から、登壇者の発言に対しての感想・意見などが寄せられた。
〈アドバイザー〉尾形 哲也氏 早稲田大学 理工学術院教授
AIエージェントの次はフィジカルAIといわれている。ロボットを制御するシステムも、AIが周囲環境の認知から判断し実行する「エンド・ツー・エンド（E2E）」になりつつある。中国や米国はロボット開発をしているが、その多くがE2Eだ。日本でも今年、AIロボット協会を設立した。複数の企業が共同でオープンなデータを集めてモデルを作ることが目標だ。日本はロボットの経験値が高い。失敗した経験も多いが、今のAIを使うと解決できることもある。
〈アドバイザー〉羽深 宏樹氏 スマートガバナンス 代表取締役CEO/京都大学 法学研究科 特任教授・弁護士
（生成AIの信頼性について）リスクはアルゴリズムの精度やガードレールの整備など多面的な対応が必要となっている。組織としては、まさに総合格闘技という形で対応しなくてはならない。AIエージェントについては、AIのなかでタスクを作り実行していくため、よりブラックボックス性が高まる。アルゴリズムだけでなく、組織としてどう説明可能性を担保していけるのかを考えることが、今後のガバナンスにおいては必要になるだろう。
石原 直子氏 エクサウィザーズ はたらくAI&DX研究所 所長
人がAIの回答に依存しすぎることへの懸念の議論があったが、人だって間違う。AIに完璧を求めすぎるのではなく、我々がAIの回答を様々な意見の一つとして、AIと共存する姿勢に変わっていかなくてはいけないのではないか。企業は常にAIを意識した経営が必要になっていくだろう。
平本 健二氏 情報処理推進機構 デジタル基盤センター長/AIセーフティ・インスティテュート 副所長・事務局長
AIセーフティ・インスティテュート（AISI）はAIが有害な情報を出していないかを自動で評価できるツールを開発した。これを利用すれば、企業がより安全な使い方をするにはどうすればよいか判断できるようになる。一般の人々に対し、安全にAIを使うことについての情報発信を充実させたい。
楠 正憲氏 デジタル庁 デジタル社会 共通機能グループ 統括官
AIのリスク管理の面では、特に消費者向けの展開がしづらいとされている。これまでとは違う不確実性のなかで社会に組み込む時、厳格な品質管理を当てはめようとすると、ミスマッチが生じる。そこを乗り越えるには、社会として問題が起きる前提で対応策を講じる方法もあるのではないか。
【協賛社の取り組み紹介】
企業と顧客のAI同士が対話も
並河 進氏 dentsu Japan グロースオフィサー/主席AIマスター/エグゼクティブ・クリエイティブディレクター
生成AIは家族以上に身近になりつつあるというデータもあり、従来のB（企業） to C（顧客）のマーケティング図式は、A（AI）を加えた「ABCトライアングル」に書き換わるとみる。電通は企業サイドに、プランニング支援のAIソリューションと、1億人規模の消費者調査もシミュレーションできる「ピープルモデル」、そしてそれらを組み合わせたマルチAIエージェントを提供している。顧客サイドでは様々なAIサービスの中に、商品・サービスの推奨を埋め込んでいく。近い将来、企業側のAIと顧客側のAIが対話し、選択肢をユーザーに返す「B to A to A to C」といった世界観になるのではないか。AIの実装を進める上では、AI依存など副作用にも目を配りつつ、BとCの距離をほどよく近づけるのが肝要だ。
AIを「作る」「守る」の両面で対応
竹田 千恵氏 日本IBM 理事 テクノロジー事業本部 watsonx事業部長
既存業務をAIがサポートする時代から、業務フローをAI主体にして人間は監督者になる「AI＋（AIファースト）」の時代に移りつつある。AIエージェント同士が対話しながら一連の業務を完遂するようになれば、自律的動作が導く不確実性や、物理世界と結びつくことによる不可逆性などへの対応が必要になる。IBMはAIを「作る」「守る」の両面でニーズに応える。「watsonx Orchestrate」は、人事・営業・購買など事前構築済みのエージェントや外部ツールを組み合わせ、ノーコードでサービス構築できる。「watsonx.governance」は、ビジネス・開発・コンプライアンスを一気通貫のワークフローで結び、ユースケース申請からモデル評価、稼働後の監視までを統合する。
プラットフォームにガバナンス機能
原口 豊氏 サテライトオフィス 代表取締役社長
当社はクラウド環境でのビジネス支援を手掛け、生成AI活用についても顧客数千社の要望を落とし込みながら様々なサポートや機能を充実させている。提供する生成AIプラットフォームには、管理者画面からの各種制御やログ取得などガバナンス機能を整備。ツールとしては、ウェブサイトを検索し要約する「サーチボード」、情報を体裁に沿ったレポートに変える「レポートボード」、グラフを起こす「インフォグラフィックページ」、特定テーマを深く掘り下げて調査する「ディープリサーチ」などを随時実装している。製造業向けの「図面検索AI」も好評だ。文字読み取り（OCR）機能や学習を支援する機能、エージェント機能なども開発を進めている。ネット上の勉強会など教育支援も提供する。
AIエージェント制作者を育成
石﨑 優氏 博報堂プロダクツ 執行役員 Promotion X室 室長
博報堂DYグループ内では、プログラミングの知識を持っていなくても、ノーコードで生成AIアプリを開発できる「Dify」を使い400人のAIエージェント制作者を育成。業務改善につなげている。また、博報堂DYグループの生活者データを基盤とした、AIエージェント「バーチャル生活者」を開発。仮想空間でインタビューやアンケートを実施できる。複数のAIエージェントが商談をシミュレーションしセールスシナリオ設計などに役立てられる「B2Bディープインサイト with AI」や、広告プランニングをAIがサポートする「Digital AaaS CV Simulator」、仮想の販売員がオンライン上で接客を引き継ぐ「バーチャル販売員」など、マーケティング変革支援も充実させている。