
【AI開発のリアル #51】 1024人に、何をさせているのか
「これ、本当に調べたら何か価値があるんじゃないか」
経営の現場では、こういう話はいくらでも出る。
でも、普通は簡単には試せない。確かめるだけで、人と時間とお金がかかる。
だから、多くは「面白そうですね」で終わる。
6月にミツケルの開発が終わってから、私は手元のDGX Sparkを、そうした仮説を試すために使い続けている。
ただし、問いが出るたびに、そこから調査を始めているわけではない。
次の問いをすぐ試せるように、設備には先に仕事をさせている。
問いが来る前に、データを作る
資料をAIに渡して、その場で答えを作らせているわけではない。
632万件の資料を先に取り込み、AIで読み、あとから数えたり比べたりできる形にしている。
現在、その結果は約2億3,000万行。そのうち約4,700万行は、AIが資料を読んで作ったデータだ。
問いが来る前に、大量のデータを検証に使える状態まで作っておく。
AIには資料を読ませる。数字を数えるのはプログラムだ。
ためしに、その洞察を10個選んで、一つずつ元のデータと突き合わせてみた。
結果は、こうだった。本物は、1個。誇張が、4個。残りの5個は、データに存在しない数字だった。
では、632万件を読み、2億行を超えるデータに変えながら、この基盤を作り続けているのは何か。
4台で、1024人分
この処理を続けているのが、手元にある4台のDGX Sparkだ。
15センチ角、厚さ5センチ。その中に、128GBのメモリと4TBのSSD、そして NVIDIAのGPU が入っている。
256人が、同時に仕事をしているようなものだ。
4台で1024人分だ。
資料はいまも増え続けている。この1ヶ月だけで、約2.5TB増えた。
届けば読み、数えられる形に直す。その処理を続けている。
その日のうちに、次を決める
必要なデータはすでに整えてある。
だから、新しい問いが出ても、そこから大量の資料を集め、読み、整理するところから始める必要はない。
すぐにデータを数え、比べ、条件を変えて、仮説を確かめるところから始められる。
仮説を出したその日のうちに、次の判断材料まで持っていけることが多い。
結果を見て、裏付けがあれば深く調べる。足りなければデータや条件を足す。十分に調べても期待した根拠が出なければ、その仮説はそこで終わりにする。
結果が出れば、すぐ次を決められる。
このやり方は、ミツケルの開発でも使っていた。
前提から間違っていれば、部分的に直すのではなく、その設計ごと捨てた。
開発中、その判断を何度も繰り返した。
寝る前に仕事を渡す。朝になると、コードや調査結果、検査結果がそれぞれ残っている。
人が寝ている間も、開発は進んだ。
ミツケルでは、一晩で試し、翌朝には次の判断をしていた。
いまは同じことを、大量の実データを使った仮説検証でも繰り返している。
失敗を、重くしない
この基盤は、一度作れば終わりではない。
新しいデータが届けば追加する。新しい仮説に必要な項目が足りなければ、元の資料をもう一度読み、別の形でデータを作る。
632万件という規模でこれを繰り返せば、クラウドAIでは処理するたびに利用料が積み上がる。
DGX Sparkでは、その計算能力を手元に持っている。電気代やデータ取得費はかかるが、処理を一回増やすたびに同じ規模の従量課金が発生するわけではない。
だから、必要ならもう一度回せる。
ローカルLLMが必要になったのは、クラウドAIにできない仕事だったからではない。
品質基準を下げずに、何度でも繰り返す必要がある仕事だったからである。
一度作ったデータは次の検証にも残る。その上に、必要な処理をまた積み重ねられる。
そして、試すために大きな予算や人員をその都度投入しなくてよければ、「期待した価値はなかった」という結果も受け入れやすい。
一回の失敗を重くしないから、次の仮説をまた試せる。
経営判断を、速く回す
素早く試す。素早く失敗する。素早く次へ進む。
しかも、その判断は勘ではない。
大量の実データで検証した結果を見て、次を決める。
DGX Sparkで速くなるのは、分析そのものではない。
経営の試行錯誤そのものだ。
この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。
開発した製品のリリース情報
ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています: