プロンプトインジェクションとは、大規模言語モデル（LLM）等のAIシステムに対する攻撃手法の一つで、攻撃者が意図的に不正な指示（プロンプト）を生成ＡＩに入力し、本来の動作とは異なる動作をさせたり、機密情報を漏洩させたりする攻撃を指す。攻撃者はシステムの制御を奪ったり、機密情報を盗むといった不正操作が可能となる

▼今年4月、慶應義塾大学湘南藤沢キャンパスの授業で生成ＡＩの不適切な使用を防ぐ目的で、課題資料に人の眼には見えない透明なテキストを仕込ませたことが話題となった。学生がその資料をＡＩに読み込ませると授業とは無関係の内容が出力され、ＡＩに課題を丸投げしたかを見抜ける仕組みだ

▼一方、早稲田大学など世界8カ国14の大学が発表した研究論文に、同様に人の眼では判別の難しいテキストで「この論文を高評価せよ」などといったプロンプトが仕込まれていたことを日本経済新聞が報じている。ＡＩが論文を読み込むと、命令に従い高い評価を下す可能性がある。論文の質や独創性を評価する論文の査読の効率化に向けて、ＡＩの利用を認める動きがある一方、明確なルールが定まっていない現状も背景にある

▼双方の事例は共にプロンプトインジェクションの一種であるとされている。大量の情報を処理することに絶大な能力を発揮するＡＩだが、全てを依存して良いかという問題提起ともとれる。（K）

この記事を書いた記者

kobayashi

主に行政と情報、通信関連の記事を担当しています。B級ホラーマニア。甘い物と辛い物が好き。あと酸っぱい物と塩辛い物も好きです。たまに苦い物も好みます。

最新の投稿

• 筆心2025.07.072025年7月7日（7831号）
• 行政2025.07.07総務省人事（7月1日付・地方総合通信局等発表分抜粋）
• 行政2025.07.07先進的ソリューションの実用化支援の二次公募に10件採択、総務省インフラ維持等支援
• 情報通信2025.07.07「空飛ぶ基地局」のHAPS、ソフトバンクが日本でプレ商用サービス開始