◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆

▼当社無料メルマガ登録はこちら

以下のような新着情報を毎週配信しています♪

https://m.technica-zen.com/ms/form_if.cgi?id=fm

◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆

～欧州のAI法は2024年に成立、2026年に施行へ～

 

11月末のデータ法に引き続きAI法の大筋合意のニュースが欧州から流れてきました。

来年の欧州議会の選挙前に道筋をつけておきたいという思惑もあり、議論が加速した側面もあるようです。

いずれにせよ、巨額の制裁金を課す AI規制が生まれることは歓迎すべきことでしょう。

欧州は個人データに続き、AIについても規制の主導権を得たことになります。

AI法はAIを利用すべきでない領域を定める他、高リスクAIについてはリスク評価を求めるというものとなっています。

AIリスクマネジメントは個人データのリスクマネジメントと似ていますが、

ステークホルダが多岐にわたる中でいかにバランスをとることができるのかが重要なポイントとなっています。

実際、プライバシーマネジメントでも、法務部門やコンプライアンス部門が用意したリスク評価がビジネスの運営上支障をきたしてしまう事例がいくつか生じているように、

リスク評価とはステークホルダ横断で行わなければ問題を生じてしまいます。

裏を返せば、今まで以上にコミュニケーションが重要な時代となっているということです。

 

日本政府は、少子高齢化解消のためのSociety 5.0実現という目標の下、

新技術に規制を課さずソフトローアプローチで技術導入を後押ししようとしてきました。

AI法が成立することで、この中立なアプローチは少なからず脆弱なものへとなることが予測されます。

AI法はAI開発にとってデメリットとなるのでしょうか？私はそうは思いません。

規制があることで開発者は「境界」を知ることができ、これが企業の逡巡の時間を減らす可能性があると考えるからです。

「自由にしてもいいよ」というのは友好的な態度に見えますが、

多くの場合、「ここまでならしても大丈夫」と言われる方が人はチャレンジしやすいものです。

アジャイルガバナンスというアイデアは、最終的に「誰が猫に鈴をつけに行くか」というチキンゲームになってしまった側面があったのかもしれません。

「決めることができない」というのは、相対的にマイナスの影響の方が多い気がします。

 

ところで、最近CJEUで興味深い判断が行われました。

ドイツのある企業の自動化した意思決定の利用についてのものです。

自動化した意思決定を用いたローン審査に落とされた個人が当該企業にアクセス権行使を行ったところ、

一部の情報は「企業秘密」を理由に開示を拒否されました。(“C-634/21: SCHUFA Holding (Scoring)”)

このケースではローン審査のための信用スコアを提供していたサードパーティが「自動化された意思決定」を「行った」と判断すべきかがCJEUに確認されました。

信用スコアを計算しただけであり、意思決定はサービスを利用した企業が行った、というロジックです。

CJEUは「「契約の確立、実施、撤回」が個人の信用スコアに「強く依拠している場合」(draws strongly)」には、「自動化した意思決定」を行っているものとみなし、

GDPR第22条第2項の例外が適用されない限りは実施してはならないと明確化しました。

また、GDPR Art.13/14の透明化の要件も満たす義務が生じ「意味のある説明」を行うようにと示唆しています。

 

この判例は今後のAIの利用にも影響を与えることでしょう。

機械学習によって行われる判断に対して「意味のある説明」を行うことを事業者は求められることになります。

人は「アルゴリズム上の関数を呼び出して計算したところこの結果になりました」、という説明では納得できません。

となると、そのアルゴリズムについて、どこまで説明すればよいのかということが大きな問題となるはずです。

このような情報を、汎用AIの利用者で製品に組み込んでいるだけの事業者が行えるとは想像しにくいので、

結局モデルを構築したおおもとの事業者がその責任を果たすように求められることになるのかもしれません。

そうなると、今度は「有意な説明」を得られるのか、という疑問が生まれてきます。

 

AIに関するニュースに世間は沸き立っていますが、規制環境という観点からは非常にきわどい綱渡りをしている状況に感じます。

この業界に関わることになった人間の一人として、しっかり仕事をしなければならないと思うこの頃です。

 

◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆

≪当社無料メールマガジンのご案内≫

▼メルマガ登録はこちら

https://m.technica-zen.com/ms/form_if.cgi?id=fm

・週１回の配信で、重要トピックや最新ニュース等の情報をお届けしています。

・上記のような当社コンサルタントの専門的視点で注目する、最新ニュースや動向等を読んでいただけます。

・配信不要な場合はメルマガ最下段にてワンクリック解除が可能です。

◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆