外注頼りの開発では追随できない 変化するログ分析を取り巻く環境

スマートデバイスの急速な普及による動画・音楽などコンテンツのリッチ化や複数の端末を利用するマルチデバイス化が急速に進む中、KDDI 株式会社（以下、KDDI）は国内事業の成長を目指す「3M 戦略」と海外事業の拡張を目指す「グローバル戦略」を軸に、高品質の通信サービスや新しい社会的価値を持ったサービスを提供し豊かなコミュニケーション社会の実現に貢献している。

そうしたサービスの品質を支える鍵となるのが、ネットワークやデバイス、クラウドサービスなどから出力される多種多様なログの分析だ。従来KDDI では、システムごとに外注による個別開発に頼ったビューワーや分析用のツールを導入してログを活用していた。そういった手法では、開発にかかるコストや期間が膨れ上がる問題を抱えることとなり、運用中に新たな問題が発生しても追加開発が間に合わず、システム担当者が独自に分析用のスクリプトを導入するなど、属人的で非効率な状態になるケースが多かったという。

KDDIプラットフォーム開発本部 プラットフォーム技術部インフラ基盤2 グループ 課長補佐の水谷 聡氏は、「そうした方法では開発コストや運用負担がかかるなど無駄が多く、各人のスキルや経験にも左右されるので、分析の品質維持や時間、メンテナンス性の面で大きな課題がありました」と当時の状況を振り返る。

この課題を解決するためには、各システムのログを1箇所に集めて一元的に可視化・分析するシステムを構築し、内製による分析環境を開発することが必要だった。それが、ログ共通基盤の誕生につながったという。

ログ共通基盤は、ログの増大にスケールアウトで対応可能な拡張性や、一括構築と内製開発によるコスト効率性と自主運用性、スピード感や実行性の高い分析・可視化性などを実現するため、オープンソースの分散処理ミドルウェア「Hadoop」を中核に構築し、特別なスキルがなくてもHadoop にログを投入するだけで使える手軽さを目指した。

汎用性・容易性・柔軟性を満たす Hadoop分析プラットフォーム「Hunk」

2012 年6月に構築したログ共通基盤だったが、実際の運用にはその特性に適した分析ツールが不可欠となった。その選定の条件は 3 つ。1つ目は汎用性。さまざまなシステムのログ分析を行うため、個別システムに合わせた設計が不要なオールマイティさが求められた。2つ目は使いやすさ。システム担当者が分析に慣れているとは限らず、内製でもスピード感のある開発が行えるよう、誰でも使える容易性が重要だった。3つ目は柔軟性。分析目的は運用中に変わっていくことも多く、ユーザー側で自由に分析のロジックを組み立てられることが必要とされた。

それらの条件を元にさまざまなツールを比較検討した結果、KDDI が選んだのは株式会社マクニカ（以下、MNC）が提供する米Splunk 社のHadoop ビッグデータ分析プラットフォーム「Hunk」だった。ユーザーがHadoop 内に保存されたデータに直接アクセスし、Webブラウザによる直感的な操作と自由な検索による作業の効率化、迅速化を実現する。また、分析結果のアラートや、レポート、ダッシュボードなどデータ分析をサポートする機能も豊富に提供される。

Hunk は3条件を満たしていたと水谷氏は語る。「設計が不要で、ログをHadoop に入れるだけでユーザーに割り当てたロール（権限）の範囲内で柔軟に新規の分析や開発が可能になります。当社はSplunk も広く活用していますが、Splunk とHunk の操作感が似ているので、社内のSplunk ユーザーがそのまま利用でき、親和性も高くうってつけだと感じました」

2014 年10 月にHunk を導入。最初に活用したのは、1日にテラバイト級のログが生成される大規模システムにおいて、システムリソース状況、需要予測をリアルタイムに可視化可能なシステムを構築することだった。

水谷氏はまず検証環境にHunk を導入し、チュートリアルマニュアルに従って簡単なサーチ文を記述。「Hadoop とHunk の接続も簡単ですし、Splunk と同じ操作方法なので、Hadoop 上の生ログデータを自由に触れることが可能だと感じました」

その後も水谷氏はSplunk 社、MNC、社内のシステム担当者と合同プロジェクトを立ち上げ、Hunk の構成、サーチ高速化手法、Hunkサーバのサイジングなどを検討していった。また、Splunk 社によるプロフェッショナルサービス契約期間を利用してダッシュボードの効率的な開発のノウハウを学び、内製開発でひたすらダッシュボードを作成。その数は100 件近くに達したという。

分析初心者にも最適なHunkは 変化に追随できるスピードを持つ

そして、2014年12月中旬にシステムリソース・利用状況可視化システムの本番環境をリリース。

開発を振り返り、水谷氏は「直感的なHunkは分析初心者にも最適です。また、課題がまだ見えていない新規のシステムや、分析したい内容が刻々と変化していくシステムなどに追随できるスピードを持ったツールなので、見直しをしながらのアジャイル開発が最もお勧めです」と感想を述べる。

ログ共通基盤にHunk を導入したことで、リソース状況やトラフィック状況を可視化し、システムの不測の事態を回避できるので、現場からは非常に便利になったと好評だという。

また、KDDI とMNC、並びにログ共通基盤に採用されているHadoop ディストリビューション「MapR」を提供する三菱電機インフォメーションシステムズ株式会社は、更なるログ共通基盤の性能向上を目指し、Hunk/Splunk/MapR の関連情報やノウハウの共有などを継続して実施することで、Hunk とMapR の組み合わせにおけるベストプラクティスの追及を行っている。

「その情報を基に、今後はSplunk を活用できる人材や、Hunk＋Hadoop を使いこなす人材の育成に力を入れるとともに、Hunk＋Splunk でのハイブリッド環境を作り、相互補完で分析力の強化を目指す考えです」

従来はシステム側で分析プラットフォームとダッシュボード開発を全て行っていたことが、将来的にはログ共通基盤側でHadoop とHunk を提供し、システム側でダッシュボードや分析手法の開発を行うなど、自由で効率的な分析が可能になると水谷氏は見ている。

「ログからすぐにグラフ化や地図にプロットが生成されるHunk の“打てば響く” 感じはとても気に入っており、今後は大量データにおけるディープな分析の最適な方法を掘り下げていくつもりです」

国内でHadoop 活用の先進企業といわれるKDDI のあくなき追求を、MNC はSplunk 社とともに全面的に支援し続けていく考えだ。

User Profile

045-476-2010
月～金 8：45～17：30

お問い合わせ
お気軽にご相談ください

無償セミナー
各種セミナーはこちら

資料ダウンロード
各種資料はこちら