本頁作成日： 2024年4月4日
最終更新日： 2024年6月12日


the Incidents 24



　2024.04.04, 2024.06.12
　■GigaZiNE の「対話型AIに関する指摘記事」の一稿より■
　　　　　（インシデントの紹介というよりは、本文そのまま私見）

表題の通りで、今回はまるっきり、GigaZiNE の数多の記事群の中の一稿を読んだ上での私見です。


リンク先は当サイト外です。 GigaZiNE/
ChatGPTなどの対話型AIは「正解を探す検索エンジン」ではなく「単語の計算機」と考えるべきだという指摘
https://gigazine.net/news/20230404-chatgpt-language-models-calculator-for-words/


そりゃそうでしょう。

それで得られた文字列を使って、更なる多くのシチズンが、更なる多くのWebコンテンツで主張していくんでしょ？
善意や悪意があるのか無いのかは別として。そしてそれを、AIを構築するためのクローラが拾っていく…お手軽ですね？

私たちは、アプリケーションサービスプロバイダ群の手のひらの上、スマートフォンに文字列を入力して飛んだその先が、
「おかしい」と気付く一瞬さえ奪われてしまうほどの快楽を利用者に与えていることに、再度気付かなければならないでしょう。



「おかしい」と気付く一瞬さえ奪われてしまうほどの快楽、たとえば――

スマートフォンで「e-Tax」というワードを入力、Web検索してそのままそこから認証ページへ飛んだり、LINEのお友達登録を使って
最寄り税務署の相談日時を予約したりする（それはおろか、国や行政などもイントラネットを構築せずLINEを使って業務連絡し合っているという…自前の回線使いなさいよ！）。

「信頼のあるサイトから」と言われたって、そもそもが、Web検索ではURLが正しいかどうかわからない。
そういったアーキテクチャを提示するアプリケーションサービスプロバイダ群と、それらを手放しで是とする世論ってどうでしょうか？

ID と PassWord を入力して、すぐさま「あっ…！」と気付いても、それはすでに遅いです。
そもそもが多くの場合は、スマートフォンで誘導される画面が手際よすぎて気付かないんです。

PCでさえ、ブラウザにアクティブスクリプトを許すの許さないのだけで更なるWebブラウザが生まれるほどの騒ぎですが、
スマートフォンって、訪問先のソースコードなんか気にしてないでしょ？

自分がセットアップした種々のアプリケーションソフトウェアが、決済などに必要な個人機微情報の階層のどこまでを参照できるか。
そういったこと、スマートフォンじゃ全然気にしてないでしょ？

そういった中での対話型AI任せって、対話している相手、入れてる文字列どこかにそのまま筒抜けなんじゃないかと思ったりしませんか？


 2024.06.12追記：
リンク先は当サイト外です。 GigaZiNE/
画像生成ソフトウェア「ComfyUI」のノードにキーロガーが仕込まれていたことが発覚、クレジットカード情報やパスワードなど全ての入力が筒抜けに
https://gigazine.net/news/20240611-comfyui-llmvision-malware/




「安易なダウンロードがもたらす大きな被害について」


21世紀に入って誰もが各家庭にPCを持った中、一気に加速をもたらしたインターネット社会。
その過渡期に誰しも経験したはずの、PCを持っているからこその、数多のコンピュータウイルス被害とその対策。
そして…誰もが目にした、上記キーワード。

――便利になり過ぎて、黙殺してしまっていませんか？（←Webサイトを構築されている皆さん…）







 参考情報：

　　2024.04.04
　　リンク先は当サイト外です。　IPA 独立行政法人情報処理推進機構/ 情報セキュリティ/ ：
　　ソフトウェアのダウンロードは信頼できるサイトから
　　https://www.ipa.go.jp/security/anshin/attention/2020/mgdayori20200428.html

　　リンク先は当サイト外です。　GigaZiNE/ ：
　　Googleが配信停止した通販アプリに「Androidのゼロデイ脆弱性を狙う悪意のあるコード」が含まれていたことが証明される
　　https://gigazine.net/news/20230328-pinduoduo-for-android-0-day-exploit/






　■ ご注意 ■

当サイトでの、上記のような記事に速報性はありません。
ご使用のコンピュータの OS や周辺コンポーネント等に纏わる脆弱性情報に
絶えず注目していく必要があります。


　　リンク先は当サイト外です。 経済産業省/ 情報セキュリティに関する政策、緊急情報/
　　　　コンピュータウイルス対策基準
　　　　http://www.meti.go.jp/policy/netsecurity/CvirusCMG.htm

　　リンク先は当サイト外です。 総務省/
　　　　国民のための情報セキュリティサイト
　　　　http://www.soumu.go.jp/main_sosiki/joho_tsusin/security/

　　リンク先は当サイト外です。 独立行政法人 情報処理推進機構 セキュリティセンター (IPA/ISEC)
　　http://www.ipa.go.jp/security/

　　リンク先は当サイト外です。 総務省・経済産業省 連携プロジェクト サイバークリーンセンター
　　https://www.ccc.go.jp/

　　リンク先は当サイト外です。 有限責任中間法人 JPCERT コーディネーションセンター (JPCERT/CC)         
　　http://www.jpcert.or.jp/

　　リンク先は当サイト外です。 JEITA 社団法人電子情報技術産業協会/
　　　　パーソナルコンピュータ（PC）安全・安心
　　　　http://home.jeita.or.jp/cgi-bin/page/detail.cgi?n=75&ca=14

　　リンク先は当サイト外です。 株式会社ラック/
　　　　注意喚起の記事
　　　　https://www.lac.co.jp/lacwatch/alert/

　　リンク先は当サイト外です。 エフセキュア株式会社/
　　　　エフセキュアブログ
　　　　http://blog.f-secure.jp/

　　リンク先は当サイト外です。 フィッシング対策協議会 (Council of Anti-Phishing Japan)
　　http://www.antiphishing.jp/

　　リンク先は当サイト外です。 警視庁/ 安全な暮らし/
　　　　サイバーセキュリティインフォメーション
　　　　https://www.keishicho.metro.tokyo.lg.jp/kurashi/cyber/


ベンダーのサイトなどで定期的な情報収集をされることを強くお勧めします。







目次へ戻る