
ビッグデータとAIは活用が広がっているテクノロジーです。どちらもトレンドのキーワードであるため、すでに理解している人は多いのではないでしょうか。また、概要は理解できていて、これらを組み合わせた活用に興味がある人も増えているはずです。
想像の通り、ビッグデータとAIは組み合わせることで相乗効果を発揮します。今回は、ビッグデータとAIを組み合わせた活用方法が気になる人や活用がうまくいかなかった人に向けて、相乗効果を得られる活用方法を解説します。
目次
AIとビッグデータ
最初に、AIとビッグデータとは、それぞれどのようなものであるのか理解を深めておきましょう。
AIとは
AI(人工知能)とは、コンピュータやソフトウェアが人間の知性を模倣して、学習や推論、認識などを実現する技術です。人間の脳を模倣した「ニューラルネットワーク」や大量のデータからパターンを学習する「機械学習」などがAIの手法として知られています。
AIを実装する目的としては「問題を解決する」「処理を自動化する」「新しいニーズやトレンドを発見する」などさまざまです。また「画像認識」「商品のレコメンド」などのように、人間には難しい処理を実装するためにも利用されます。
幅広い分野に適用されるようになっているため、利用用途はこれから更に拡大するでしょう。人間同等のスキルを素早く発揮してくれるものがAIなのです。
ビッグデータとは
ビッグデータとは、非常に多くのデータを含んだ「データセット」全般を指します。例えば、データのボリュームが多いデータセット、バラエティに飛んだデータセット、ベロシティの異なったデータセットなどです。また、これらを組み合わせたデータを指すこともあります。
ただ、一般的にビッグデータは非常に多くのデータを含んでいるため、通常のツールなどでは分析が難しくなっています。一般的なデータの集合ではなく、膨大なデータの集合がビッグデータだと理解しましょう。
AIとビッグデータの関係性
AIとビッグデータは、互いに大きく関連しているテクノロジーだと考えられます。
例えば、ビッグデータは膨大なデータの集合であり、これによってAIモデルを教育することが可能です。多くのデータがなければ、思うようなAIモデルの教育はできないため、この用途として活用することが考えられます。
また、すでに教育されたAIがあれば、ビッグデータを分析することが可能です。データが膨大すぎるため、人間が分析することは現実的ではありませんが、AIならばこれを実現できます。
AI×ビッグデータのメリット
AIとビッグデータを組み合わせることには多くのメリットがあるため、以下を紹介します。
AIモデルの強化
ビッグデータは多様で大量の情報を提供してくれるため、AIモデルの強化に役立ちます。これらのデータを活用することで、AIモデルは多角的な学習が可能となり、より一般的で広範囲な知識を獲得することが可能です。
例えば、機械学習モデルとビッグデータを組み合わせると「経験」を積めます。ビッグデータにより多くのデータや事例が提供されるため、これらを踏まえて新しい状況に適応する能力を習得できるのです。また、大量のデータから経験を積むことによって、予測の精度が向上するなどのメリットがあります。
また、一般的にビッグデータは異なるソースの情報を集約したものであるため、学習内容が偏ってしまう状況を避けることが可能です。結果、公平な判断が下せるAIモデルを生成でき、より活用しやすいAIを生み出せます。
新しいインサイトの発見
ビッグデータを分析することで、新しいインサイトの発見が実現できます。莫大なデータには、価値ある情報やパターンが隠されていることがあるため、これらを見つけることで新しいビジネスチャンスを創出するのです。
ただ、そのためのデータの分析には時間がかかり、人間の手で対応することは現実的ではありませんでした。しかし、AIを活用して自動的にデータを分析することで、新しいインサイトの発見が現実的になっています。
実際、ビッグデータと機械学習やディープラーニングを組み合わせ、トレンドの予測や新規サービスの開発などが進められています。また、製造現場においては不良品の兆候を事前に発見するなど、生産性向上にも役立っているのです。
パーソナライゼーション
大量のデータが提供されるため、非常に高精度なパーソナライゼーションを実現できる可能性があります。顧客の行動や嗜好、過去の利用状況などを分析することによって、何を求めているのかを導き出すのです。それを踏まえたマーケティングや商品開発を実施することで、売上が向上するなどのメリットを生み出します。
例えば、ECサイトでは、過去に購入された商品の履歴などを保有しています。これらの履歴情報を大量に集めて分析することで、次に必要とされそうな商品を提案することが可能です。また、需要が高まりそうな商品を開発したり、事前に入荷を手配したりすることもできるでしょう。
また、顧客について分析することができれば、適切な広告を発信することも可能です。過去の傾向から興味がありそうな分野に限ってダイレクトメッセージを送信すれば、反応してもらえる可能性は高まるでしょう。
コスト削減
ビッグデータにAIを組み合わせることで、幅広い側面からコストを削減できると考えられます。
まず、ビッグデータの解析をAIに任せることで、人間が対応するよりも短時間かつ正確にデータを処理可能です。人間が必要なデータを得ようとするならば、多くの労力がかかりコストは高まってしまいますが、AIに元となるデータを与え、全自動で処理させれば労力は最小限に抑えられます。大きくコストが低減できると考えて良いでしょう。
また、ビッグデータを活用して市場予測ができれば、これらに携わる人件費も削減できます。一般的なデータ解析ならば、人間でも対応できる可能性がありますが、ビッグデータは人間での対応に限界があります。しかし、AIならば低コストで分析を実現できるのです。
これらは一例で、ビッグデータとAIを組み合わせるとで、様々な業務を改善できると考えられます。改善によってコストが削減できることがメリットです。
AI×ビッグデータの課題
AIとビッグデータを組み合わせることには課題があるため、以下に注意しておきましょう。
データの品質
AIは提供されたデータを主なインプットとして学習します。そのため、提供されたデータの品質が悪いと、AIが意図した結果を提供してくれません。
ただ、一般的にビッグデータなど大量のデータには「ノイズ」と呼ばれる不要なデータが含まれます。多少はやむを得ないですが、あまりに多いと結果に影響を与えられません。そのため、AIにデータを処理させる前に、データ品質を高めることが重要です。
また、内容だけではなく、フォーマットも最適化しなければなりません。例えば、アルファベットの表記に全角と半角が入り混じっていると、正しく評価されない可能性があります。整えてから分析しなければなりません。
意思決定の透明性
一般的に、ビッグデータを分析したAIは、結果だけを出力します。つまり、どのような計算などを経て、結論を導き出したのか知ることはできません。インプットからアウトプットまでの過程が、ブラックボックスになってしまうことはデメリットです。
また、このように過程の分からない結果を用いることは、意思決定の透明性を欠くことに繋がります。決定の理由が「AIがそう導き出したから」となりかねないのです。時には、このような決断が反感を買うかもしれません。
データバイアス
ビッグデータの内容に偏りがあると、データバイアスが生じます。偏ったデータでAIが学習するため、導き出された結果もそれが反映されたものになってしまうのです。
これを防ぐためには、分析の対象となるビッグデータの母体に偏りがないか確認しなければなりません。もし、偏った母体からデータを収集しているならば、それを踏まえた分析とするか、異なるビッグデータを利用することが求められます。
計算リソース
AIの実行にはCPUやメモリなど多くのリソースが必要とされます。また、ビッグデータのように大量のデータを扱うならば、さらに多くのリソースが必要です。特に、分析は多くの計算が必要となるため、これに耐えうるものを用意することが求められます。
一般的に、多くのリソースを用意するとコストが高まってしまいます。クラウド環境のように一時的な環境でも、高性能なものは高価です。必要となる計算リソースや、それの確保で発生するコストに注意しなければなりません。
AI×ビッグデータを効率的に行う方法
AIとビッグデータを効率的に組み合わせるためには、以下を意識してみましょう。
スクレイピングの活用
ビッグデータを得る方法はいくつもありますが、ひとつの手段として「スクレイピング」が挙げられます。これは、Web上のデータをツールで取得・加工して、分析などに役立てる技術です。Webには大量のデータが存在するため、ビッグデータとしてビジネスなどに役立てることができます。
スクレイピングを活用できれば、自分が必要とするビッグデータを作り上げることが可能です。企業や公共機関などから提供されるビッグデータには限りがあるため、スクレイピングでデータを集めることで品質の高いデータを活用できます。
クラウドの活用
大量のデータを管理したりAIを実行したりするためには、クラウドの活用がおすすめです。AWSなどは、大量のストレージとAIサービスを提供しています。これらを活用すると、効率よくビッグデータを処理する環境を構築できるでしょう。
また、クラウド環境は従量課金制が大半であるため、コストを最小限に抑えることが可能です。ビッグデータを処理できるだけのサーバを確保すると高額なコストになりますが、クラウドの活用で、コストパフォーマンスも高められます。
AI×ビッグデータの事例
AIとビッグデータを組み合わせた事例を5種類紹介します。
Facebook:画像の認識
SNS大手のFacebookは、AIとビッグデータの活用によって、不適切な画像投稿を自動的に削除しています。暴力行為や性的なものなど、利用規約に反するものを人力ではなく自動的に削除するようにしました。
判別にあたっては、Facebookに投稿された画像だけではなく、幅広いサイトに掲載されている大量の画像を利用しています。「ビッグデータ」として提供されているわけではありませんが、Facebookが独自に大量のデータを収集し、それを学習に活用したのです。結果、誤りはあるものの不適切な画像は自動的に削除できるようになり、利用者の満足度を高めています。
ゑびや:飲食店でのロス軽減
伊勢神宮近くの飲食店では、時期によって来客数が異なり、食材や人材配置のロスが発生する問題を抱えていました。そこで、気象データや周辺ホテルの宿泊予測データなどを含む200種類程度のビッグデータをAIで分析し、来客数を予測する仕組みを構築しました。
その結果、来客数などを95%の精度で予測できるようになり、食品のロスを70%程度削減することに成功しています。また、品切れによる機会損失を防げるようになったことで、年間の売上を高めることにもつながりました。
GooDay:ホームセンターでの仕入れ最適化
九州地方のホームセンターでは、仕入れの計画が従業員の経験や勘に依存していました。結果、在庫過剰になり倉庫を圧迫したり、返送作業が発生したりする状況に陥っていたのです。
そこで、自社が保有する大量の「売上データ」とオープンデータである「気象データ」をAIで分析し、相関関係などを調査することにしました。結果、気象状況によって需要に変動のある商品が明確になり、最適な在庫の確保を実現できています。
必要以上の仕入れがなくなったことで、利益が向上し、従業員へも還元できるようになりました。また、在庫管理の業務が軽減されたことで、従業員の働きやすさ向上にも寄与しています。
神戸エアロネットワーク関連会社:製造現場での作業効率化
航空関連の製造企業では、生産性向上に向けた活動に意味があるか評価できていませんでした。経営者の勘で施策を決定し導入していたため、適切に評価できなかったのです。そのため、勘ではなくAIとビッグデータに基づいた、根拠のある施策へとシフトしました。
具体的には、大量の機器に設置したセンサーと工場内のカメラからデータを収集し、これをAIで分析する仕組みを開発しました。結果、効率よく稼働していない設備や手持ち無沙汰になる人員が明確になったのです。それを踏まえた施策を採用し、人件費や原材料のロス軽減を実現できました。
大手証券会社:コールセンター業務の見える化
大手証券会社では、契約者や営業先など問わずすべての通話履歴を音声データ・テキストデータとして管理していました。これらをビッグデータとみなしAIに分析させることで、通話相手の傾向を分析し、対応に役立てる仕組みを構築しています。
例えば、今までの電話対応のうち「クレーム」に分類されるデータを分析させ、このような人に共通する特徴を見つけ出しました。コールセンターのシステムに、この結果を組み合わせることで、相手がどの程度の怒りを持っているか可視化できるようにしたのです。
ビッグデータから特徴を見つけ出すことは、AIが非常に得意とする部分です。その結果をコールセンター業務と組み合わせることで、応対品質の向上につながりました。
AI×ビッグデータの今後
AIとビッグデータの組み合わせは、今後も注目され続けるテクノロジーとなるでしょう。学習できるデータの量が増えるにつれて、より進化したAIを生成したり、それに対応できるアルゴリズムが開発されたりするはずです。
ただ、AIが発達するにつれて、ビッグデータからプライバシーに関する情報やセキュリティに関する情報を取得できるようになるかもしれません。こうなると、AIが規制されるようなことになりかねないでしょう。今まで以上に高性能なAIが登場し、ビッグデータが活かされると考えられますが、良い側面も悪い側面もあるはずです。法整備なども踏まえて注視することが求められます。
まとめ
AIとビッグデータを組み合わせることで、精度の高いデータ分析を実現できます。結果、データドリブンな経営を実現できるでしょう。AIの精度を高めるためのビッグデータ、ビッグデータを解析をするためのAIのどちらの観点からも、経営に貢献してくれます。
このように今後も活用できるビッグデータを収集する手法の中に、スクレイピングと呼ばれるものがあります。Webページの情報を技術でビッグデータを効率よく収集したり加工することができます。これから、AIとビッグデータ活用を効率的におこなうために知っておくべき手段と考えて良いでしょう。
ただ、スクレイピングでビッグデータを収集するためには、専門的な知識が必要です。そのため、スクレイピングの活用する場合はぜひPigDataのスクレイピング代行サービスへご相談ください。