JetB代表・竹内勇人が「AI・人工知能EXPO【秋】」で講演。AIエージェントに「どこまで任せるか」を、国内外の規制とAI活用の失敗例から解説

JetB株式会社(本社:東京都新宿区、以下「当社」)の代表取締役・竹内勇人が、「AI・人工知能EXPO【秋】」のオープンセミナーに登壇しました。講演は2026年11月12日(木)に幕張メッセで行われ、テーマは「AIエージェントの暴走・事故をどう防ぐか」です。

講演では、国内外のAI規制が「任せてはならない」とする領域と、AIエージェントに購入や業務を任せて実際に起きた失敗を紹介しました。そのうえで、AIの業務のどこで人の承認を挟むかを決めておく「承認設計」が、AIガバナンスの肝になると示しました。

会場アンケート:AIに、どこまで任せていますか

講演の序盤で聴講者に投げかけたのは、「AIに、どこまで任せていますか?」という問いです。4つの段階のうち、当てはまるものすべてに手を挙げてもらいました(複数回答)。

  • AIは壁打ち相手(実行するのは人):90.9%
  • AIエージェントとして実行までさせている(調査・資料作成・システム操作まで):81.8%
  • AIエージェントに責任がある範囲まで実行させている(失敗すると社内に実害が出る業務まで):45.5%
  • AIエージェントに“対外的責任”がある範囲まで実行させている(お客様・取引先に向けた行動まで):9.1%

会場アンケート

任せる範囲が広がるほど、挙がる手は少なくなりました。実行まで任せている人が8割を超えた一方、お客様や取引先に向けた行動まで任せている人は1割未満です。

講演の主な内容

1.世界のAI規制が示す「任せてはならない」領域

まず、教育や融資、医療など、海外でAIの利用が規制されている領域を紹介しました。共通する考え方は「差別するな」「騙すな」「危険なものを無責任に使うな」「勝手に人生を決めるな」の4つだと整理しています。AI面接についても国内外の規制や方針を取り上げ、人による管理・承認が重要だと示しました。

2.AIに任せて起きた失敗と、そこから得た教訓

続いて、竹内自身がAIにPCケースの購入を任せたところ、自分の好みに合わないものが届いた経験を紹介しました。知人のもとに望んでいないものが勝手に届いたという、別のエピソードにも触れました。

また、取引先へのメール返信が「承知」の一言で送られたことや、取引先とのやり取りに怒りマークがついた失敗も紹介しました。メール返信とリアクションの失敗は、アンケートで挙手が最も少なかった「対外的責任」の領域で起きたものです。

失敗から得た教訓は、AIも「人間と、何も変わらない」ということで、部下と同じく「責任を負える範囲で、任せる」ことが大切だと伝えました。

3.ガバナンスの肝は「承認設計」

AIの業務のどこで人の承認を挟むかを、具体的に決めておくことが「承認設計」です。例として、あらかじめ許可した相手への一行で済む返信なら承認不要とする、といったルールを紹介しました。

講演は「AIガバナンスは、良い未来を作る鍵」というメッセージで締めくくりました。

講演の詳しい内容は、当社サイトの登壇レポートでご覧いただけます。

講演概要

AIエージェントの暴走事故をどう防ぐか

項目 内容
講演テーマ AIエージェントの暴走・事故をどう防ぐか
~AI面接の制度対応と、経営者自らつくるAI組織のガバナンス実践~
日時 2026年11月12日(木)15:30〜16:00
会場 幕張メッセ 2ホール内 NexTech Summit / The Circle会場
登壇者 JetB株式会社 代表取締役 竹内勇人
展示会名 AI・人工知能EXPO【秋】(NexTech Week 2026【秋】内)
主催 RX Japan合同会社

JetB株式会社について

JetB株式会社は、定額制のアバター型AI面接サービス『Our AI面接』や、接客・案内を担うAIエージェント『うちのAI』を開発・提供しています。AIプロダクトの受託開発、AI活用研修・導入コンサルティングも行っています。

Our AI面接:https://ai-mensetsu.jp/
うちのAI:https://uchino.ai/

会社概要

項目 内容
会社名 JetB株式会社
所在地 〒160-0022 東京都新宿区新宿1-8-1 大橋御苑駅ビル4F
設立 2014年3月4日
資本金 10,000,000円
代表者 代表取締役 竹内勇人
URL https://jetb.co.jp/

お問い合わせ先

JetB株式会社
TEL:03-5919-0033
E-mail:[email protected]