「ChatGPT」が登場して以降、常に話題にのぼる「生成AI」は、何かを質問するとすらすらと自然な文章で答えてくれたり、瞬時に簡単な作文をしてくれたり文章をまとめてくれたりと、とても評判の良いツールです。イメージを伝えるとぴったりの画像を作ることもできます。一方で、国内の中小企業の多くは、こうした生成AIを活用する予定はない、としています。しかし「使わないから社員とは話題にしなくてもよい」というスタンスが、実は最も危険です。生成AIを使わない企業ほど、しっかりと特徴を知っておかなければならない大きな理由を解説します。
ChatGPTをはじめ、文章や画像などを生成してくれる生成AIをうまく業務に取り入れて、人手不足の解消につなげようとしている中小企業が一部にあるのは現実です。
とはいえ、「じゃあうちも明日から！」とはいかないのもまた事実でしょう。
もちろん、こうした生成AIを活用することで業務効率化の成果を上げた企業や自治体が出てきていますので、今後も永遠に無縁というわけにはいきません。
しかし、導入する・しない以前に、社員と生成AIについての意見交換やルール作りは必ず実施しなければなりません。
「知らない」では済まされない、むしろ「知らない」ことが最大のリスクになるのです。
中小企業の64.７%が「活用予定なし」
東京商工会議所が都内の中小企業1,096社から回答を得た調査では、生成AIを「活用している」とした企業の割合は5.7%、「今後活用を検討している」としているのが29.6%、一方で「活用する予定はない」という企業の割合が64.7%にのぼっています。
活用あるいは検討している企業の場合、その用途は文章などの作成や校正、情報収集やリサーチ活動といったものが多くなっています。
しかし、会社として正式に生成AI取り入れていなくても、社員が調べ物に使っていた場合には思わぬトラブルが起き、知らなかった、ではすまされない事態に発展する可能性もあります。
ベテラン弁護士がChatGPTで作ったトンデモ書類
ChatGPTなどの生成AIは、インターネット上などから大量の情報を事前に学習しており、人の問いかけや要望に対して、学習した情報を材料に文章やイラストなどをつくり出してアウトプットするというシステムです。
使い方次第では便利ですが、弱点もあります。
これは米ニューヨーク南部地区連邦地裁での出来事です。
航空機内で配膳カートが膝にぶつかりけがをしたとして、乗客の男性が航空会社に損害賠償を請求した訴訟がありました(*1)。
原告弁護士はキャリア30年のベテランでした。しかしとんでもないミスをおかしてしまったのです。
というのは、この弁護士が提出した準備書面に大問題があることがのちにわかります。書面には6件を超す類似訴訟の判決の引用がまとめられていましたが、これらの類似訴訟はどれひとつ実在しないものだったのです。全くのデタラメというわけです。
なぜこのようなことになったのでしょうか。
実は弁護士は、この準備書面作成にChatGPTを使っていました。しかしChatGPTなど生成AIは時に、事実無根のことを自信たっぷりに回答する「ハルシネーション(幻覚)」という現象を起こします。弁護士はChatGPTのこうした特徴を知らなかったのです。
事実に基づく厳正な判断が必要な場所で、決して起きてはならないことが起きてしまったのです。しかも、ベテラン弁護士が引き起こしてしまった事態です。
また、米国のラジオパーソナリティの男性が、全く無関係の銃社会支持団体から、しかも横領の疑いがかけられている人物だとする訴訟概要を作成されたこともあります。この訴訟概要もまた、ジャーナリストがChatGPTで作成したものでした(*2)。
この男性は名誉を毀損されたとしてChatGPTの開発企業を相手に訴訟を起こしており、裁判の行方が注目されています。
ChatGPTは言葉をつなぐことに関しては高い技術を持っています。しかし、必ずしもその内容が事実であるかどうか判断してくれるわけではありません。
よって、会社として正式に生成AIを使用していなくても、資料作成などのために、知らぬところで社員が生成AIを使っていた場合、どんな偽の情報がどんなふうに社内を流れていくか管理ができなくなってしまうというリスクがあるのです。
なお、自治体として初めて(*3)ChatGPTの試験導入に踏み切った横須賀市役所でも、導入当初は多くの職員が情報の検索にChatGPTを使用していました。
その後、職員にChatGPTの使い方として、適切でないもの、そうでないものを以下のように周知しています。
横須賀市では、ChatGPTの導入で業務時間が大幅に短縮されることが分かりました。例えば文書作成事務では、年間約2万2700時間の時間短縮につながると試算されています(*4)。人手不足の現場では、大きな魅力を持つツールなのです。
よって、使い方さえわかってしまえば、どんな社員でも使いたくなってしまうものです。ただ、先ほど紹介したトラブルを起こす可能性がある限り、野放しにしておくわけにはいきません。
*1 「「チャットGPTに横領犯にされた」名誉毀損訴訟が示すAIリスクとは？」Yahoo!ニュース https://news.yahoo.co.jp/expert/articles/fc57cea94c292fee58c1a8f3f145734599b3f709
*2 「ChatGPTが告訴状を「偽造」 米男性、名誉毀損でオープンAI提訴」Forbs Japan https://forbesjapan.com/articles/detail/63762
*3 「自治体初！横須賀市役所でChatGPTの全庁的な活用実証を開始(2023年4月18日)」横須賀市 https://www.city.yokosuka.kanagawa.jp/0835/nagekomi/20230418_chatgpt.html p51
*4 「ChatGPT活用実証結果報告」横須賀市) https://www.city.yokosuka.kanagawa.jp/0835/nagekomi/documents/yokosuka-chatgpt-2-houkoku.pdf p51
「うっかり」機密情報入力というリスクも
また、ある程度使い慣れてしまうと、「なにげなく」会社の機密情報を生成AIへの質問として入力してしまう可能性があります。社外秘のデータや顧客情報などです。
米国の情報セキュリティー会社「サイバーヘイブン」が、同社製品を使う160万人のChatGPT利用実態を調査したところ、3.1%が所属企業の機密データを入力してしまったと答えています(*5)。
ChatGPTをはじめとする生成AIの多くは、インターネットなどからあらかじめ学習している情報だけでなく、ユーザーが質問などの形で入力した情報もまた自分の学習材料にして知識を増やしていきます。
すると入力してしまった情報は、いつどこで、どんなかたちで、誰に示されてしまうかは把握しようがありません。生成AIへの機密情報の入力は、ブラックボックスに会社の大切な情報を突っ込んでしまうことだとも言えます。しかも、一度入れたものは取り消すことができません。
なお、人材採用SNSを運営するアメリカのフィッシュボールがアプリ利用者約1万2000人を対象に2023年に実施した調査では、従業員の68%がChatGPTを業務で使っていながらも、そのことを上司に伝えていないと回答しています(*6)。
上司の管理が及んでいない生成AIの利用が最も危険です。
例えば経営者であるあなたが社員に何かを聞いたとき、彼らが自信満々に答えたことが、もしかしたらAIが作り上げた事実無根の内容だった、という可能性が出てきます。あるいは、顧客に不正確な資料を示してしまう、という可能性もあるでしょう。
*5、*6 「ChatGPT、情報漏洩を防ぐには？ データ専門家に聞く」日本経済新聞 2023年4月5日 https://www.nikkei.com/article/DGXZQOUC229FO0S3A320C2000000/
使う・使わないに関わらず、まずルール制定を急ごう
もちろん、社員が自宅などで個人的に生成AIを使うことまで禁止することは難しいことですし、性悪説には立ちたくないものです。
しかし、社内にルールが存在しない無法地帯では、企業の業務の過程で誰がどこでブラックボックスを利用しているかわからなくなってしまいます。
企業ではトラブルが起きた時、誰がどこでどんなミスをしたか検証することは欠かせませんが、生成AIの利用についてルールがなければ、これを検証する方法がなくなってしまいます。
よって、今はまだ予定はないという企業でも、「知らない」というスタンスを貫くことのほうが思いリスクを背負う可能性すらあるのです。
Webで開かれているセミナーなどに積極的に参加し、基本的な知識を得ることから始めましょう。
また、AIの導入に利用できる補助金制度もあります。
・IT導入補助金(https://it-shien.smrj.go.jp/)
・ものづくり補助金(https://portal.monodukuri-hojo.jp/index.html)
・小規模事業者持続化補助金(https://s23.jizokukahojokin.info/)
また、中小機構はIT化も含めた経営に関する相談窓口を設置(https://www.smrj.go.jp/sme/consulting/tel/index.html)しています。
これらを積極的に利用していきましょう。
| ここがポイント！ |
| ●中小企業の多くは生成AIの活用を予定していないが、AIについて知らなければ大きなリスクを抱えることになる。 |
| ●不適切な資料作成をしたり、他人の名誉に関わるトラブルを起こしたりすることもあるが、業務で生成AIを使っていても、上司に申告していない従業員が多数に上る。 |
| ●補助制度や公的な相談窓口などを利用して、まずはAIについて知ることから始めたい。 |
無料会員のメリット
- Merit 1 -
企業向けIT活用事例情報のPDFデータをダウンロードし放題！
- Merit 2 -
本サイト「中小企業×DX」をはじめ、BCNのWEBメディア（「週刊BCN+」「BCN+R」など）の会員限定記事が読み放題！
- Merit 3 -
メールマガジンを毎日配信（土日祝を除く）※設定で変更可能
- Merit 4 -
イベント・セミナー情報の告知が可能！自社イベント・セミナーを無料でPRできる
- Merit 5 -
企業向けIT製品の活用事例の掲載が可能！自社製品の活用事例を無料でPRできる
無料会員登録で自社製品の事例をPR！
企業向けIT製品の活用（導入）事例情報を無料で登録可能！
新規で会員登録される方は会員登録ページ、（すでに会員の方は、会員情報変更ページ）より、会員登録フォーム内の「ITベンダー登録」欄で「申請する」にチェックを入れてください。
未会員の方はこちら
