知らないと騙される！AI犯罪9つの手口と防ぎ方(ep.83)

【コミュニティの案内】 実践型の有料コミュニティで、みんなでAIを触っておちつこう！ ⁠https://rooom.listen.style/p/ochitsuki-ai?tab=membership⁠ 【トーク内容】 「AI犯罪なんて国家レベルの話でしょ」その油断が一番危ない。声も顔も本物そっくりに偽装され、あなたの家族や財布が直接狙われる時代はもう来ています。 香港で40億円が消えたディープフェイク会議、たった3秒の音声から作られるオレオレ詐欺、月額課金で誰でも使える犯罪用AI、正社員の中身が北朝鮮だった事件まで。実際に起きた9つの手口を、AIエンジニアのしぶちょーとAI素人のかねりんがバッサリ解説。知っておくこと自体が最大の防御になります。 【目次】 0:00:00 オープニング 0:00:27 今日のテーマ AI犯罪の最前線 0:02:00 AI詐欺の被害が急増しているデータ 0:05:44 香港ディープフェイク会議詐欺 40億円 0:12:00 フェラーリCEOなりすましを撃退した一言 0:19:20 企業のセキュリティ抜き打ちテスト 0:20:37 3秒の声で成立する音声クローン詐欺 0:33:15 生成AIで作る自作ランサムウェア 日本初の有罪 0:36:50 月額課金の犯罪用AI WormGPTとFraudGPT 0:42:26 AIエージェントによるハッキング事例 0:52:19 AIで量産した曲による音楽配信詐欺 0:58:22 正社員は北朝鮮 なりすまし労働者事件 1:06:00 総括 知ることが最大の防御になる 1:17:47 雑談 Claude MaxからCodexへ乗り換え談義 1:28:13 雑談 G検定に挑戦する企画 【今回の要チェックキーワード】 ディープフェイク（Deepfake）：AIを用いて、実在する人物の顔や声を本物そっくりに合成・改変した偽のメディア（動画や音声）のこと。 音声クローン（Voice Cloning）：数秒程度の短い音声データから、本人の声質や話すテンポ、抑揚までをAIで精密に再現する技術。 ソーシャルエンジニアリング（Social Engineering）：システムへの不正侵入などを行わず、「権威」や「緊急性」を装って人間の心理的な隙を突き、機密情報を盗み出したり送金させたりする手法。 ランサムウェア（Ransomware）：感染したコンピュータのデータを勝手に暗号化し、「元に戻したければ身代金（ランサム）を支払え」と要求する悪意のあるソフトウェア。 ジェイルブレイク（Jailbreak）：プロンプトを巧妙に言い換えるなどして、AIモデルに設定された倫理的・セキュリティ的な安全装置（ガードレール）を意図的に外させる行為。 エージェント型AI（Agentic AI）：人間がすべての手順を指示しなくても、与えられた目標（偵察、ハッキングなど）に対して自律的に計画を立て、実行まで進めることができるAI。 プロンプトインジェクション（Prompt Injection）：AIへの入力文（プロンプト）の中に悪意のある指示を紛れ込ませ、AIを乗っ取って機密情報の漏洩や不正な動作を引き起こさせる攻撃手法。の利用時に求められる、身分証明書や顔認証などを用いた厳格な「本人確認」の手続き。 —---------------------------- 【番組の概要】 日々のAIトピックを、現役のAIエンジニアがやさしく解説する対談番組。AIニュースに驚き疲れたあなたに、おちつきを提供します。AIニュースの、驚くポイント、驚かなくても良いポイントがわかります。 ★ご感想やコメントは、番組公式ハッシュタグをつけてX（旧Twitter）でポストしていただけるとありがたいです。 【番組公式Webサイト】※お便りはこちらから https://ochitsuki-ai.com/ 【公式ツール】 ・おちつきAI RAG https://ochitsuki-airag.com/ 【番組公式ハッシュタグ】 #おちつきAI 【番組公式X】 https://x.com/ochitsuki_AI 【パーソナリティ(MC)】 ▼しぶちょー ・AIエンジニア ・技術士(機械部門) 「大手機械メーカーでAI開発の最前線を担う現役エンジニア。AI（ディープラーニング）の実装スキルを証明する「E資格」を保有。機械（ハードウェア）への高度な知見も有し、双方の専門性を掛け合わせ『AIの社会実装』に貢献する。情報発信活動にも精力的に取り組み、ブログ・音声配信(Podcast/Voicy)・SNSなどで幅広く活躍。単なる技術解説でなく、行動変容を伴う情報発信を信条とする。その姿勢が評価され、2025年UJA科学広報賞 審査員特別賞を受賞。著書に『集まれ設計１年生 はじめての締結設計』（日刊工業新聞社）。岐阜県テクノプラザものづくり支援センター広報大使、生成AI EXPO in 東海 共同代表も務める。」 https://x.com/sibucho_labo https://voicy.jp/channel/3963 ▼かねりん（金田勇太） ・KANERIN Podcast Studios 代表 ・一般社団法人 地方WEB3連携協会 理事 「刑事司法実務の最前線で多数の犯罪捜査を指揮。2017年から暗号資産業界へ参入。数々のグローバルプロジェクトに参画しコンサルティング、情報分析・アドバイザリー業務を提供。コンサートライブ配信業、音声配信業、テックメディア創業等を経て、ポッドキャストレーベル兼プロダクション「KANERIN Podcast Studios」を創業。多様なパートナーと共に、未来へつなぐ声の原典を共創している。」 https://x.com/kanerinx https://voicy.jp/channel/2534 【プロデューサー】 かねりん　https://x.com/kanerinx 【サウンド･アーキテクト】 Aviv Haruta　https://x.com/oji_pal 【カバーアートデザイン】 UTA　https://x.com/uta_dib 【制作/著作】 KANERIN Podcast Studios -------------------------------------------------- ※画像引用元： 【各種ポッドキャストスタンドへのリンク】 Spotify https://open.spotify.com/show/6iGk39bSta5KZ1QD7jvK2o Apple Podcast https://podcasts.apple.com/us/podcast/id1841316430 Amazon Music https://music.amazon.co.jp/podcasts/aba8e9a4-aefb-404a-b366-4b7a11b3f7cb/ YouTube https://www.youtube.com/playlist?list=PLNQiF7XIko7QOIlyFMiI_aDdk1eJzNiCD LISTEN https://listen.style/p/ochitsukiai

LISTENで開く