【登壇レポート】AIにどこまで任せるか。「AI・人工知能EXPO【秋】」で代表・竹内が講演しました

JetB株式会社(本社:東京都新宿区、以下「当社」)の代表取締役・竹内勇人が、「AI・人工知能EXPO【秋】」のオープンセミナーに登壇しました。講演は2026年11月12日(木)に幕張メッセで行われ、テーマは「AIエージェントの暴走・事故をどう防ぐか」です。

本記事では、会場で行ったアンケートの結果とあわせて、講演の内容をご紹介します。国内外のAI規制の考え方、AIに購入や業務を任せて起きた失敗、そこから見えてきた「承認設計」の考え方を順にお伝えします。

講演概要

項目 内容
テーマ AIエージェントの暴走・事故をどう防ぐか
~AI面接の制度対応と、経営者自らつくるAI組織のガバナンス実践~
日時 2026年11月12日(木)15:30〜16:00
会場 幕張メッセ 2ホール内 NexTech Summit/The Circle会場
登壇者 JetB株式会社 代表取締役 竹内勇人
展示会名 AI・人工知能EXPO【秋】(NexTech Week 2026【秋】内)
主催 RX Japan合同会社
当社の出展 小間番号8-35(『Our AI面接』『うちのAI』)

AIは「ガバナンスが主語」の時代へ

AIは「ガバナンスが主語」の時代へ

講演の冒頭では、AIをめぐる関心の変化を取り上げました。少し前まで話題の中心は「AIの能力を、いかに拡張できるか」でしたが、今は「AIを、いかに制御するか」へ移っています。その最たる例がセキュリティの問題であり、この変化を「AIは、ガバナンスが主語に」と表しました。

本講演は、同展で「AIセキュリティ・ガバナンス」をテーマに実施されたプログラムの一つです。

会場アンケート:AIに、どこまで任せていますか

講演の序盤では、聴講者に「AIに、どこまで任せていますか?」と問いかけました。AIに任せる範囲を4つの段階で示し、当てはまるものすべてに手を挙げてもらいました。

会場アンケート

段階 内容 挙手の割合
AIは壁打ち相手 質問すれば答え、文章や画像も作ってくれる。ただし、実行するのは人 90.9%
AIエージェントとして実行までさせている 調査、資料作成、システム操作まで、AIが自律的に手を動かしている 81.8%
AIエージェントに責任がある範囲まで実行させている 失敗したら社内に実害が出る業務まで、AIの判断で実行させている 45.5%
AIエージェントに“対外的責任”がある範囲まで実行させている お客様・取引先に向けた行動まで、AIに任せている 9.1%

結果として、任せる範囲が広がるほど、挙がる手は少なくなりました。AIエージェントに実行まで任せている人は8割を超えた一方、お客様や取引先に向けた行動まで任せている人は1割未満です。講演全体を通じて扱ったのが、この「どこまで任せるか」の線引きでした。

※会場での挙手による簡易集計です(複数回答)。割合は会場人数に対する各選択肢の挙手人数の割合で、小数第2位を四捨五入しています。

世界のAI規制が示す「任せてはならない」領域

ここからは視点を逆にして、世界ではAIの利用にどのような禁止事項や条件を設けているのかを取り上げました。

規制の対象になっている10の領域

海外のAI規制や制度整備の動きとして紹介したのは、次の10の領域です。

※規制の対象・適用条件・施行時期は国・地域によって異なります。以下は、施行予定の制度も含めた講演内容の要約です。

規制の対象になっている10の領域

教育
(EU)
AIによる成績評価・進路判定の公平性と安全性の確保
融資・保険
(EU・米国)
AIによる信用評価・保険審査における不当な差別の防止
医療
(EU・米国)
AI医療機器の安全性・有効性の審査と管理の義務化
顔認識
(EU)
顔画像の無差別収集による顔認識データベース構築の禁止
犯罪予測
(EU)
個人の性格・属性等のみに基づく犯罪リスク予測の禁止
人間の格付け
(EU)
行動・属性を点数化し、不当に社会的待遇を差別する行為の禁止
AIチャット・接客
(EU)
AIとの対話であることの告知の義務化
AI画像・動画
(EU・中国)
AI生成コンテンツの識別表示・透明性確保の義務化
性的ディープフェイク
(米国・EU)
本人の同意を得ない性的な偽画像・動画の公開禁止
心理操作
(EU)
有害な心理操作や、個人の弱みを悪用する行為の禁止

いずれも、人の人生を左右する領域です。

規制の本質は4つ

これらの規制に共通する本質を、次の4つに整理しています。

規制の本質は4つ

差別するな 人種・性別・障害などで、不公平に扱わない
騙すな AIであることや、偽物であることを隠さない
危険なものを無責任に使うな 安全性・公平性を検証し、説明できるようにする
勝手に人生を決めるな 採用・融資・医療などの重要な判断には、適切な人間の監督を置く

AI面接の領域では

続いて、当社が事業として取り組むAI面接の領域に絞って、海外の規制を紹介しました。

AI面接の領域では

  • EU:職場・教育機関で、生体情報に基づき感情を推定するAIの利用を原則禁止する(医療・安全目的などの例外あり)
  • 米国・ニューヨーク市:対象となる採用判断支援ツールに、独立したバイアス監査などを義務づける
  • 米国・イリノイ州:動画面接をAIで分析するなら、事前に説明し同意を得る
  • 米国・コロラド州:採用などの重要な判断に使うAI・自動意思決定技術について、透明性の確保と差別防止に向けた制度を整備する

なお、コロラド州では2026年に制度が改正され、新たな主要義務は2027年1月から適用される予定です。

日本については、厚生労働省が示すAI面接サービスと職業紹介事業の境界を取り上げました。サービス事業者の質問・評価・情報提供が、職業紹介事業の許可等を必要とする範囲に入るかという観点から、次の点を整理しました。

AI面接をめぐる日本の方針

  • AI面接の事業者が、求人・求職の申込みを受け、採用の仲介まで行うこと
  • 求人企業が事前設定していない質問を、回答の趣旨を明確化する範囲を超えて行うこと
  • 事業者の判断で採用を勧める評価を加えたり、面接結果を企業に提供するかどうかを選別したりすること

これらはAI面接を一律に禁止するものではなく、サービスの実態に応じて職業紹介事業の許可等が必要になる範囲を示すものです。

結論として示したのは、人間による管理・承認の重要性です。

なお、当社の『Our AI面接』の質問・評価設計についての考え方は、こちらのお知らせで公表しています。

経営者自らつくる「AI組織」

講演の中盤からは、竹内自身がAIを活用する中で得た経験や、業務を任せて起きた失敗の話に移りました。

AI活用の4つの段階

まず、AIの活用を次の4つの段階に分けて説明しました。

2023〜2024年
生成AIの時代
人間がAIを使う段階。鍵は、どう聞くかを工夫する「プロンプトエンジニアリング」
2025年
AIエージェント元年
AIが調査や資料作成、システム操作などの仕事を実行する段階。鍵は、何を渡し、どこまで見せるかを考える「コンテキストエンジニアリング」
2026年
マルチエージェント・オーケストレーション
営業AI、経理AI、開発AIなど複数のAIが役割を分担し、統括するAIの指揮下で連携する段階。鍵は、どう束ね、どう御するかを考える「ハーネスエンジニアリング」
次の段階
自己進化型AI組織(発展途上)
AIが実行し、結果を見て、原因を考え、自分を直すループを回し続ける段階。鍵は「セルフリフレクション・ループ」

複数のAIが組織として働く3つ目の段階からを「AI組織」と呼び、当社の現在の重点領域と位置づけています。

AI組織:マルチエージェント
第3段階は複数のAIが役割を分担し連携して働くAI組織
AI組織:自己進化型
第4段階は経験から改善する自己進化型AI組織

人は、ループのどこに立つか

AIが実行と見直しのループを回すとき、人の立ち位置には3つの段階があります。

人は、ループのどこに立つか

ヒューマン・イン・ザ・ループ 一手ごとに人が承認する。AIは提案し、人が決める
ヒューマン・オン・ザ・ループ AIが回し、人は上から見る。異常時だけ人が介入する
ヒューマン・アウト・オブ・ザ・ループ AIだけで完結する。人は結果だけを受け取る

AIに任せるとは人の立ち位置をこの順に動かしていくことであり、「動かしすぎると失敗する」と伝えました。

任せすぎると、どうなるか:AIに任せて起きた失敗

ここからは、AIに購入や業務を任せた際に起きた失敗を紹介しました。

失敗1:PCケースの購入を任せたら、好みに合わないものが届いた

竹内自身がAIにPCケースの購入を任せたところ、自分の好みに合わないものが届いたといいます。また、知人のもとに人の像が勝手に届いたという、別のエピソードも紹介しました。

購入まで自動化するには、前提や好みをよほどすり合わせておく必要があったと振り返っています。

失敗2:返信を任せたら、取引先に「承知」の一言

失敗2:返信を任せたら、取引先に「承知」の一言

メールの返信をAIに任せ、短い用件なら承認なしで送ってよい設定にしていました。すると、取引先への返信が「承知」の一言だけで送られていたのです。原因は、「送っていい内容」の線引きが雑だったことにあります。

失敗3:リアクションを任せたら、普通のやり取りに怒りマーク

失敗3:リアクションを任せたら、普通のやり取りに怒りマーク

チャットでの対応もAIに任せ、文脈を読んでリアクションもつけてよい設定にしていました。すると、取引先との普通のやり取りに、怒りマークがついていました。たかがスタンプ、されどスタンプです。

失敗2と失敗3は、どちらも取引先に向けた行動、つまり会場アンケートで挙手が最も少なかった「対外的責任」の領域で起きたものです。

失敗から学んだこと:「人間と、何も変わらない」

失敗から学んだこと:「人間と、何も変わらない」

こうした失敗から学んだのは、AIも人間と何も変わらないということです。人間でも、部下に任せた結果の責任は上司が負います。一方で、権限を委ねなければ部下は育たず、上司がボトルネックになります。

だからこそ、AIにも責任を負える範囲で、任せることが大切だと伝えました。

ガバナンスの肝は「承認設計」

ガバナンスの肝は「承認設計」

では、責任を負える範囲をどう決めるのか。講演では、AIガバナンスの肝は承認設計、つまりAIの業務のどこで人を挟むかを具体的に決めておくことだと示しました。講演で紹介した例は次の4つです。

自動返信 あらかじめ許可した相手(ホワイトリスト)への、一行で済む内容なら承認不要とする
バックアップ 重要なシステムを変更する場合は、必ずバックアップを残す
自動化 なるべくRPA(定型作業の自動化)に落とし込み、Pythonなどでコード化する
ルール化 AIへの指示を「Agent.md」(AIにとっての就業規則にあたる指示書)に落とし込む

こうしたガードレール(AIが逸脱しないための仕組み)の設計を追求することが大事だと強調しました。

AIと人の役割分担の理想

最後に、業務を重要度と緊急度の2つの軸で分け、AIと人の役割分担の考え方を示しました。

AIと人の役割分担の理想

業務の区分 AIと人の分担
重要かつ緊急 段階的にAIに任せる
重要だが緊急でない 人の領域。ここに割ける時間を増やす
緊急だが重要でない 完全なAI化を目指す
重要でも緊急でもない 余暇を楽しむ

どうしても後回しにされがちなのが、「重要だが緊急でない」業務です。緊急な業務をAIに寄せ、この業務に人が使える時間を増やしていくことを、役割分担の理想として示しました。

おわりに

おわりに

講演は「AIガバナンスは、良い未来を作る鍵」というメッセージで締めくくりました。AIに任せる範囲を決め、どこで人が承認するかを設計しておくことは、AIを安全に働かせ、人が本来の仕事に時間を使うための土台になります。

会期中は小間番号8-35にブースを出展し、講演で紹介した『Our AI面接』と『うちのAI』の体験デモを行いました。

JetB株式会社について

JetB株式会社は、AIアバターと対話できるサービスを開発・提供しています。採用の一次面接を担う定額制のアバター型AI面接サービス『Our AI面接』と、店舗・施設・Webサイトで接客や案内を担うAIエージェント『うちのAI』を展開するほか、AIプロダクトの受託開発やAI活用研修・導入コンサルティングも行っています。

Our AI面接:https://ai-mensetsu.jp/
うちのAI:https://uchino.ai/

各サービスの資料は、こちらからご請求いただけます。
Our AI面接:資料請求 うちのAI:資料請求

会社概要

項目 内容
会社名 JetB株式会社
所在地 〒160-0022 東京都新宿区新宿1-8-1 大橋御苑駅ビル4F
設立 2014年3月4日
資本金 10,000,000円
代表者 代表取締役 竹内勇人
URL https://jetb.co.jp/

お問い合わせ先

JetB株式会社
TEL:03-5919-0033
E-mail:[email protected]