AI時代のセキュリティ対策は、ネット上の情報は取られる前提で考えるところから始まる。元警察官でシステム会社を経営する私が、本当に漏らせない情報は紙で持つという本音と、ローカルAIの限界、何を守るかの決め方、AIとの壁打ちの使い方を整理した。AI導入を進める経営者・担当者向け。
この記事の要点
タイムズの顧客情報が流出した、というニュースを見た。私もタイムズを契約していた。たぶん私の免許証の情報も、どこかへ飛んでいっているのだろうと思っている。
正直なところ、怒りよりも「もう仕方ないよな」という気持ちの方が大きかった。ちゃんと管理していそうな会社でも、漏れるときは漏れる。
AIが出てきてから、セキュリティを気にする人はさらに増えたと感じている。私はシステム開発とAIの教育事業をやっていて、相談を受けることも多い。今回は、セキュリティについて本音で思っていることを書いておきたい。
ネット上の情報は、取られる前提で考えた方がいい。
単純に言うと、これが私の結論だ。ネット上にある情報には、セキュリティリスクがあるものだと思っておく。
そう言える理由は、AIの動き方にある。AIが暴走して情報を取りに行ったり、ハッキングをしていたりする、という話が出回っているらしい。GoogleやClaude、ChatGPTの名前と一緒に、そういう話を目にすることが増えた。
AIは、人の「これをやってください」に対して頑張りすぎてしまうことがある。人が「やめろ」と言っても、動いてしまう場面もあると聞く。
開発をやめた方がいいという声が出ているのも、こうした暴走への心配からではないかと思っている。
昔の情報漏洩は、ネットに長けた悪い人たちが攻撃して起きるものだった。今は、AIがハッキングまでしてくれる状況になっているのではないかと思う。
正直に言うと、私はハッキングに詳しいわけではない。それでも、ネット上の情報が取れてしまう世界線になっていることは、容易に想像がつく。
すごい人たちは、間違いなくAIを使って何かをしている。私たちがAIでシステムを組んでいるのと同じように、攻撃する側もAIでどんどん進めている。だから、ネット上の情報は取られてしまうと考えていい。
本当に漏らせない情報は、紙で管理するしかないと思っている。
「どうやってセキュリティ対策をすればいいですか」と聞かれることはよくある。最近の私は、ネット上にあるものは漏れる可能性が高い、と正直に伝えている。
では何で保存すればいいのか。本当に漏れたくない情報なら、紙ベースの管理しかない。これが本音だ。
タイムズのように、きちんと管理していそうな会社でも漏れている。それなら、自分の会社は大丈夫だと言い切れるだろうか。
多くの会社は、何かしらの形でネット上に情報を置いているはずだ。
こうした情報が漏れない確率は、ぶっちゃけ誰にも分からない。だから、漏れると思っておいていい。
私はもともと警察官をやっていた。警察は、今もめちゃくちゃ紙の文化だ。
先日も新潟へ行き、DXがなかなか進んでいない現場の人たちと会ってきた。AIでこうした方が便利ではないですか、という提案もした。
ただ、提案しながら改めて感じた。ネット上で便利にしようとすればするほど、リスクはやっぱり高まる。
ローカルAIにしても、リスクはゼロにならない。
ここで話を終えてしまうと身も蓋もないので、もう少し考えたい。多くの人は、クラウド版のAIをネット越しに使っている。では、ローカルでAIを組めば顧客情報は守れるのか。
私の答えは、そうではない、だ。
以前、ローカルAIの話をしたときに、こんな意見をもらったことがある。「Wi-Fiに繋がってしまったら、セキュリティは担保されなくないですか」。その通りだと思う。
ローカルのパソコンの中で便利なことをしても、何かしらの方法でネットに繋がれば、リスクは必ず発生する。ここははっきり伝えておきたい。
ゼロにはならないが、可能性は抑えられる。ずっとクラウドに繋がっている状態よりは、かなりましになる。
こういう状態にしておけば、セキュリティとしてはかなり強固だ。ただし、その分だけ不便さも伴ってくる。
そこまでして守る必要がある情報なのか。そこは一度立ち止まって考えたい。
セキュリティで一番大事なのは、守る情報を決めることだ。
みんな「セキュリティ、セキュリティ」と言う。でも、そのセキュリティは何の情報を守るためのものなのか。ここまで考えている人は意外と少ない。
顧客の情報といっても、中身はいろいろある。
どこまでを守りたいのかは、会社によって変わってくる。もちろん、国で定められているルールもあるので、そこは必ず担保する必要がある。
そのうえで、どの情報が漏れてもよくて、どの情報が漏れてはいけないのかを決める。これが漏れたらまずいからこうしよう、と施策を考える順番が大事だ。
どこまでやるかは、会社が決めることだ。だからこそ、そもそもセキュリティとは何か、という概念のところから考える必要があると思っている。
クラウドセキュリティなど、セキュリティ系のツールもいろいろ出ている。ツールを活用するのはいい。ただ、守る情報が決まっていないと、ツールをどこにどう使うかも決まらない。
AIを使えば、便利さとリスクの両方が増える。
AIを使うことで、リスクは必ず発生する。一方で、仕事は便利になっていく。
たとえば、こういうプラスがある。
プラスはあるし、リスクもある。このリスクとリターンをうまく考えたうえで進めないといけない。どこまでリスクを取るかを決めるのは、それぞれの会社だ。
こうした判断が要るからこそ、システム会社に頼むことは結構重要だと思っている。最低限のデータの持ち方は、システム会社の人に頼った方がいい。
前に「ソフトウェア会社はなくなるのか」で、半分ぐらいはなくなると書いた。その考えは変わっていない。システム会社の仕事は、間違いなく減る。
今回はその例外の話だ。セキュリティに詳しい人を採用して社内に置くのは、ほとんどの会社にとって無理がある。だから、ここのニーズは残り続けると思っている。
すべてを外に頼む必要はない。まずAIに聞けばいい。
今のAIは賢くなっている。セキュリティリスクについてAIに聞けば、「この情報がここにあったら、まずいかもしれない」と丁寧に教えてくれる。
AIと壁打ちしながら、次のようなことを整理していくのが非常に重要だ。
正直に言うと、セキュリティのプロに聞くよりも、AIと壁打ちした方がいいアイデアが出てくると感じている。それで進めて全然問題ないと、個人的には思っている。
悪い人たちは、AIをガンガン使っている。だから、いい人たちの側もAIをフル活用しないと、もう戦っていけない。
もしハッカーによるリスクを本当にゼロにしたいなら、紙で管理するしかない。そこまで状況は進んでいる。ゼロにしたい情報は紙で、それ以外はAIを使い倒して守る。私はこの分け方が現実的だと思っている。
もう1つ、個人的に気になっているのがWeb3、ブロックチェーン系の技術だ。AI時代だからこそ、かなり強固なセキュリティの仕組みにはニーズがあるのではないかと思っている。
たとえば契約書の管理や顧客の管理だ。顧客の管理まで本当にできるのかは、私もまだイメージがついていない。それでも、ネット上のセキュリティを担保するところで、何かしら使えるのではないかと考えている。
ローカルとクラウドのAIを兼ね合わせるのが理想だと思う。
ローカルAIだけで全部をやるのは、正直難しい。最新のクラウドのモデルと比べると、性能ではどうしても劣る。
社員全員にローカルAIを配って「これで何でもできます」と言っても、何かしら不便なところが出てくる。そもそも、ローカルAIのスペックに耐えられるパソコンやサーバーを用意するだけで、結構お金がかかる。
用意すること自体が難しい会社もあるはずだ。だから、ローカルとクラウドをうまく組み合わせてセキュリティを固めていくのが、一番理想的だと思っている。
とはいえ、ローカルAIを一度立ち上げてみるのは面白い。Mac miniを買ってもいいし、今持っているパソコンでも動かせると思う。
GPT OSSやQwenなど、小さく動くAIもいろいろ出てきている。ローカルのAIと会話してみると、今のクラウドのAIがとんでもなくすごいことがよく分かる。
私もいじってみたが、クラウドのものに慣れていると、クオリティが低く感じた。できることとできないことが、やっぱり限られてくる。
メモリの大きいMac Studioなら、ローカルがどこまで進化するのか。そこは私も興味があるので、自分でテストしてみたい。今はMac mini 5台で、どう便利になるかを試している。
最近、ストレージもちゃんと用意しておいた方がいいと感じている。私が買ったMac miniは、一番低いスペックのものだ。
AIを活用すると、データ量はどんどん増えていく。整理しきれないデータもあふれてくる。かといって、データを削除しながら進めるのは本質ではない。AI活用では、データこそが命だからだ。
外部のストレージを取り付けて運用することも考えている。外部の方が安いが、本体に多く積んでおけば何も考えずに進められる。これからMac miniを買う人は、予算内で高いストレージを選んでおいた方がいい。
AI時代のセキュリティは、守る情報を決めて、AIと壁打ちするところから始まる。研修ではそこを一緒にやっている。
AI駆動研究所では、システムのことがまだよく分からない人向けに、無料で学べるeラーニングもやっている。
横浜では、リアルのイベントも開く予定だ。元警察官の視点から、AIでどんな犯罪が起きそうかをまとめて伝える。関東に住んでいる人は、ぜひ来てほしい。
自社のどの情報を守るべきか、AIをどこまで使っていいか迷っている。そんなときは、今の状況を聞かせてほしい。無料相談はこちらから気軽に連絡してほしい。
この内容は動画でも話しています: https://youtu.be/EJCq3VrOs90
AI時代の広報は、新聞やテレビなど他社の媒体に載ることが差別化になる。3年間広報を続け、日経やTBSのニュース番組に出た私が、メディアに出て何が変わり何が変わらなかったかを本音で書いた。出やすい人の条件や、プレスリリースの続け方も整理する。差別化に悩む経営者・広報担当者向け。
AI時代の営業は、会って話すしかない。システム開発会社を5期やってきた私が、オンライン中心のコスパ重視営業をやめて新潟まで足を運んだ理由を書いた。AIで差別化できない今、実績より信用で選ばれる理由と、発注側・受注側が見直すべき点を整理する。開発会社や営業の担当者向け。
ソフトウェア会社はなくなるのか。新しいAIモデルが出た朝に考えた結論は、半分ぐらいはなくなる、だった。開発会社を経営する立場から、危うい会社と残る会社の条件、発注側が見直すべき点を整理した。開発会社を選ぶ担当者と、開発会社で働く人向け。