AI活用の拡大と、規制導入の背景   

生成AIの進展により、食農産業においてもAIの活用が広がっています(*1)。これまで食農産業において、企業は例えば下記のような用途でAIを使用してきました(*2)(*3)(*4)。

• 新商品開発
• 食品の品質管理
• 輸入食品のリスク管理
• 農作業の負担

一方で、食品産業においてはAI技術と互換性のない旧式なインフラや設備が依然として使われていることなどが障壁となり、AI導入が遅れています(*2)。

農業においても同様に、投資対効果（ROI）の不透明さや経済的不確実性、一部の大手農業機械メーカーや農薬企業のデータ囲い込みなどからAI導入は限定的で、大規模な実用化には未だ至っていません(*5)。

しかし、こうした状況においても、AIの活用が進むにつれて以下のような課題が顕在化しています(*6)。

• 出力の正確性や信頼性
• ブラックボックス化による説明可能性の欠如
• データの取り扱いや責任の所在

これらのリスクは、特に食品産業や農業のように、人々の安心安全に直接影響を及ぼす業界において、無視できない課題となっています。そのため欧州では、AIの活用そのものではなく、その利用に伴うリスクに応じた規制の整備が進められています。

EU（欧州連合：European Union）は2024年に生成AIを含む包括的なAIの規制である EU AI Actを成立・発効しました。この法律は2030年12月31日までに段階的に施行されていく予定です(*7)。

AI利用の拡大により、生産性向上や利益の増大といった期待もありますが、同時にリスクの顕在化を招いており、それに対応する形で規制の導入が進んでいるのです。

EU AI Actが示す「リスクベース規制」という考え方   

上述した通り、生成AIを含む包括的なAIの規制である EU AI Actの施行が進められており、今後 EU域内の事業者だけでなく、 EU域内でAIを用いた製品やサービスを提供する事業者も本規制の適用を受けます(*7)。

EU AI Actは、AIの使用自体を一律に規制するのではなく、その用途や影響に応じたリスクに基づいて管理する「リスクベース規制」を採用しています。

EU AI Actでは、AIは以下の4つのリスクに分類されます：

• 許容できないリスク（Unacceptable risk）
• ハイリスク（High risk）
• 特定の透明性が必要なリスク（Transparency risk）
• 最小リスク（Minimal or no risk）

これらのリスク区分に応じて、企業に求められる対応の内容と水準は大きく異なります。以下では、それぞれのリスク区分の概要を整理します(*8)。

許容できないリスク（Unacceptable risk）   

人々の安全、生計、および権利に対する明白な脅威とみなされるすべてのAIシステムは禁止されます。AI法は、以下の8つの用途でのAI利用を禁止しています。

• 有害なAIベースの操作および欺瞞脆弱性の有害なAIベースの搾取（悪用）
• ソーシャルスコアリング
• 個人の刑事犯罪リスク評価または予測
• 顔認識データベースを作成または拡張するための、インターネットまたはCCTV（監視カメラ）素材の無差別なスクレイピング
• 職場および教育機関における感情認識
• 特定の保護された特性を推論するための生体認証分類
• 公共の場でアクセス可能な空間における、法執行目的のリアルタイム遠隔生体識別

2025年2月より、「許容できないリスク」に分類されるAIへの規制は始まっています。この規制に関しては、「The guidelines on prohibited AI practices under the AI Act(*9)」と「The guidelines on the AI system definition of the AI Act(*10)」という2つのガイドラインが出されています。

ハイリスク（High risk）   

健康、安全、または基本的権利に重大なリスクをもたらす可能性のあるAIの使用事例は、高リスクとして分類されます。これらの高リスクな使用事例には、以下の内容が含まれます。

• 重要インフラ（例：輸送）におけるAI安全コンポーネントであり、その故障が市民の生命や健康を危険にさらす可能性のあるもの
• 教育機関で使用され、教育へのアクセスや個人の職業生活の過程を決定する可能性のあるAIソリューション（例：試験の採点）
• 製品のAIベースの安全コンポーネント（例：ロボット支援手術におけるAIアプリケーション）
• 雇用、労働者の管理、および自営業へのアクセスのためのAIツール（例：採用のための履歴書選別ソフトウェア）
• 不可欠な民間および公共サービスへのアクセスを提供するために利用される特定のAI使用事例（例：市民がローンを取得する機会を拒否するクレジットスコアリング）
• 遠隔生体識別、感情認識、および生体認証分類に使用されるAIシステム（例：万引き犯を遡及的に特定するためのAIシステム）
• 人々の基本的権利を侵害する可能性のある法執行におけるAI使用事例（例：証拠の信頼性の評価）
• 移民、難民申請、および国境管理運営におけるAI使用事例（例：ビザ申請の自動審査）
• 司法および民主的プロセスの運営において使用されるAIソリューション（例：判決を準備するためのAIソリューション）

「ハイリスク」に分類されるAIは、市場に出される前に下記の厳しい項目を満たす必要があります。

• 適切なリスク評価および軽減システム
• 差別的な結果のリスクを最小限に抑えるための、システムに供給されるデータセットの高品質性
• 結果の追跡可能性を確保するための活動のログ記録
• 当局がコンプライアンス（遵守状況）を評価するために必要な、システムとその目的に関するすべての情報を提供する詳細な文書
• 展開者に対する明確かつ適切な情報
• 適切な人間による監視措置
• 高いレベルの堅牢性、サイバーセキュリティ、および正確性

ハイリスクなAIに対する規制は2026年8月2日または2027年8月2日から適用開始予定でしたが、27年12月へと1年以上先送りとなる可能性があります(*11)(*12)。

特定の透明性が必要なリスク（Transparency risk）   

EU AI Actは信頼を維持するために必要な場合に人間が情報を確実に受け取れるよう、特定の開示義務を導入しています。

例えば、チャットボットなどのAIシステムを使用する場合、人間は情報に基づいた決定を下せるよう、機械と対話していることを認識させる必要があります。

さらに、生成AIを扱う事業者は、AIが生成したコンテンツであると識別できるようにしなければいけません。その上で、特定のAI生成コンテンツ、すなわちディープフェイクや、公共の利益に関する事項について公衆に知らせる目的で公開されるテキストは、明確かつ目に見える形でラベル付けされる必要があります。

この透明性に関する規則は2026年8月に施行されます。

最小リスク（Minimal or no risk）   

EU AI Actは、最小限またはリスクがないとみなされるAIに対する規制は行いません。現在EUで使用されているAIの大半はこのカテゴリーに分類されます。

「リスクベース規制」の意義とそれが食農産業にもたらす影響   

EU AI Actにおいて重要なのは、AI規制の区分が、「AIの種類」（生成AIかどうか）や「何ができるのか」ではなく、「どのような用途で、人に対してどのような影響を持つか」を基準にしている点です(*13)。

例えば、同じAI技術であっても：

• 人の安全に直接関わる用途 → ハイリスク
• 情報生成やマーケティング用途 → 特定の透明性が必要なリスク

といったように、利用方法によって規制の対象と内容が変わります。

この点は食品や農業分野において特に重要です。

食品開発や表示、品質管理などにAIを活用する場合、その出力が安全性や法令遵守に影響を与える可能性があるため、単なる生成ツールではなく、リスクを伴う意思決定プロセスとして扱われる可能性があります。

食農産業におけるAI活用に対する規制の影響   

EU AI Actの導入により、食農産業におけるAI活用は、単なる技術導入ではなく、用途に応じたリスク管理を前提とした設計へと変化しています。

すでに食農産業で使用されるAIの一部が「許容できないリスク」「ハイリスク」「特定の透明性が必要なリスク」に分類されると考えられています(*14)。

例えば、個人の意思決定を損なうようなサブリミナル技術を用いて行動を無意識のうちに操作するAIや、職場等の特定の領域で感情を推測するAIは、「許容できないリスク」があるとして市場投入は原則として禁止されます(*14)。

また、食農産業で使用される機械や設備の「安全機能」としてAIが使用される場合、「ハイリスク」に分類され、リスク管理システムの構築、適切なデータ品質の確保、人間による監督などの厳格な要件が課されます。例えば自動運転トラクターや自律型除草ロボットにつけられている周囲への危害や衝突を防ぐためのAIシステムがこれに該当します(*14)。

食品マーケティングにおいて使用される生成AIについては、その利用に関する透明性が求められるシステムに該当します(*14)。

このように、同じAI技術であっても、その利用方法によって求められる要件が大きく異なります。

その結果、企業にとってのAI活用は：

• 「何ができるか」を検討する段階から
• 「どのようなリスク区分に該当するか」を前提に設計する段階へ

と移行しつつあります。

なお、ハイリスクAIの規制の適用開始時期が延期される可能性が高まるなど、制度はなお発展途上にあります(*11)(*12)。そのため、今後もEU域内でAIを用いた商品やサービスの販売をしていくためには、EU AI Actの施行に関する情報のアップデートを継続的に把握していく必要があるのです。

規制を前提としたAI設計への転換   

食農産業においてAIの導入・利用が拡大する中で、EU AI Actをはじめとする規制への対応は、AIの設計段階から組み込むべき要件となりつつあります。

こうした要件に対応するためには、AIを単なるアイデア生成ツールとしてではなく、意思決定プロセス全体を支える基盤として設計する必要があります。

このような背景を踏まえ、弊社クオンクロップが開発した Food AI Ideator(*15) は食品開発におけるAI活用を「意思決定支援基盤」として位置付けています。

具体的には、

• 日本特有の食材やレシピ、市場データを含むドメイン特化データにより、実務で活用可能なアウトプットを生成
• レシピアイデア生成と同時に環境負荷を概算評価し、ESGを「後処理」ではなく「意思決定変数」として組み込む
• ターゲットセグメントや市場機会、コンセプトの言語化まで含め、開発・マーケティング・サステナビリティを横断した設計を支援

といったサービスを提供しており、新たに導入されるAI規制も考慮しながら開発を進めています。

EU域内でAI商品・サービスを提供されている事業者の方々は、ぜひ弊社クオンクロップにご相談ください。

参考文献 

1. FMI「Data Analytics and AI Trends in the Food Industry」

2. OECD「Progress in Implementing the EU Coordinated Plan on Artificial Intelligence, Volume 2」

3. FoodIngredientsFirst「AI in Food Safety and Product Development」

4. FAO Open Knowledge Repository

5. European Commission「Unlocking the potential of Artificial Intelligence for sustainable agriculture」

6. NIST「AI Risk Management Framework (NIST AI 100-1)」

7. PwC Japan「生成AIをめぐる規制動向」

8. European Commission「Regulatory framework on AI」

9. European Commission「Guidelines on prohibited AI practices under the AI Act」

10. European Commission「Guidelines on the AI system definition under the AI Act」

11. JETRO ビジネス短信

12. 日本経済新聞

13. Future of Life Institute「AI Act overview」

14. European Journal of Risk Regulation「The EU AI Act and the food system」（Cambridge）

15. Myエコものさし（クオンクロップ）