MLOpsのツールのセキュリティを確保するには？

by Canonical on 25 July 2023

Ubuntu ProによるスピーディーなパッチでMLOpsのセキュリティを確保

ChatGPTのような生成AIプロジェクトにより、企業は自社のAI戦略を見直し、優先するようになりました。PwCが発行したレポートによれば、回答者の72%が人工知能には投資効果があると確信しています。また半数は、自社のAIプロジェクトが必要な規制に適合している（57%）、サイバー攻撃、脅威、乗っ取りからシステムを保護している（55%）と回答しています。

実運用レベルのAIプロジェクトは簡単ではありません。データの準備、モデルの開発、運用へとさまざまな段階を踏む必要があります。このようなプロジェクトには再現性と移植性が欠かせません。ここが機械学習運用（MLOps）の出番です。

MLOpsとは

機械学習運用（MLOps）とは、ワークフローの各プロセスを簡素化し、機械学習とディープラーニングのデプロイを自動化する一連の実践手法です。モデルの大規模なデプロイとメンテナンスを、実運用に対応した信頼性と効率性で実現します。

MLOpsは、データ収集、ガバナンス、モニタリングなどすべての段階を含み、機械学習のライフサイクル全体に対するものへと徐々に進化を遂げています。人工知能が単に革新的な技術ではなく、日常的なビジネスの一部となるにつれ、MLOpsも標準的な手法となるでしょう。

MLOpsは、ビジネスニーズと規制要件のバランスを取る上で重要な役割を果たします。そのメリットは以下のとおりです。

• 生産性の向上
• 再現性
• コストの削減
• モニタリングが可能

MLOpsのツール

変化の激しい時代において、市場にはオープンソースも含めMLOpsの導入を助ける多くのツールがあります。Kubeflow、MLFlow、Seldonなどは特に人気があります。Charmed Kubeflowは、実運用グレードでエンドツーエンドのMLOpsプラットフォームであり、データサイエンスワークフロー内の各ステップをKubernetesのジョブに変換します。Charmed Kubeflowは、Kubeflowのアップストリームプロジェクトが提供する公式ディストリビューションの1つです。これによりデータサイエンティストや機械学習エンジニアは、シンプルに、移植可能、拡張可能な形でMLをデプロイできます。また、Notebooksを使った実験から、Kubeflow Pipelinesを使ったトレーニング、Katibを使ったチューニングまで、幅広いタスクに対応する機能を備えています。

Charmed KubeflowはMLOpsを導入するチームに絶好の相棒です。MLOpsは、使用するデータ、MLモデル、コードを考慮した明確な理念を踏まえ、機械学習プロジェクト活用のベストプラクティスを提供します。市場が成熟すれば、MLOpsを扱う安全で安定したツールの必要性がさらにはっきりすることでしょう。  Charmed Kubeflowはこの問題に対処し、データサイエンティストがモデリングに集中するのを助けます。

しかし生産性の向上だけでは足りません。セキュリティも優先事項です。このためCanonicalは、攻撃の防御を重視したMLOpsツールを提供しています。

MLOpsの詳しい情報をご希望ですか？Canonicalのガイドをぜひお読みください。
こちらからダウンロード

MLOpsプラットフォームのセキュリティ

今年初め、PyTorchはセキュリティの侵害を報告しました。開発中の新しい機能を含む特定バージョンのAIツールが夜に攻撃を受けたのです。このツールはまだ新しく、あまりユーザーがいませんでしたが、AI分野の攻撃や脆弱性は増加傾向にあります。また2022年には25,000件以上のCVEが公開されました（出典）。これは前年の20%増に相当します。今後、企業の負担が増すことは間違いありません。脆弱性の追及も困難ですが、もっと深刻なのは、パッチを適用し、すべての依存ファイルがシステムを壊さないようにする作業に時間がかかることです。

またAI/MLプロジェクトは、通常、多くの機密データにアクセスします。担当者は環境とアーチファクトの両方のセキュリティを確保する必要があります。プロジェクトやモデル内で使用するデータに加え、プラットフォームや下の層のセキュリティも各段階で確認する必要があります。これはオープンソースを含め、すべてのMLOpsソリューションについて言えることです。

オープンソースソフトウェアとそのすべての依存ファイルを安全に管理することは、あらゆる企業の必須事項です。企業は、どんな基準や業界要件も犠牲にすることなく、オープンソースのMLOpsプラットフォームで機械学習モデルの開発とデプロイを行いたいと考えています。AI/ML戦略を見直し、オープンソースソリューションを採用する組織が増えるにつれ、オープンソースライブラリやAI/MLツールチェーンも、長期的なセキュリティメンテナンスとプラットフォームの安定性が保証された信頼できるソースを持つことが重要となります。

Canonicalは、AI/MLを大規模に実行したい企業のためにCharmed KubeflowとUbuntu Proを提供しています。

Ubuntu Proとは

Ubuntu Proは、オープンソースのセキュリティとコンプライアンスを確保するCanonicalの総合的なサブスクリプションであり、チームがCVEパッチを速やかに受け取り、大規模なシステムを堅牢化し、FedRAMP、HIPAA、PCI-DSSなどの制度に適合するのを助けます。

サブスクリプションにより、Canonicalのセキュリティ保証が10年間に延長され、メインのUbuntuオペレーティングシステムに加えて23,000パッケージがテクニカルサポートの対象となります。Ubuntuのメインリポジトリだけでなく多数のオープンソースパッケージやツールチェーンのセキュリティを強化したい組織に最適です。

Ubuntu ProでMLワークロードのセキュリティを強化

Ubuntu Proは、Charmed Kubeflowバンドルに固有のものを含め、多様なイメージに対応するCVEパッチを含みます。これによりMLOpsプラットフォームのすべての要素のセキュリティが確保され、担当者は機械学習の開発とデプロイに全力を注ぐことができます。

アップストリームプロジェクトの公式ディストリビューションの1つを使用すれば、データサイエンティストや機械学習エンジニアは、機械学習ワークフローを自動化すると同時に、各層でセキュリティを確保できるメリットがあります。MLOpsエコシステムの成長を目指し、Charmed Kubeflowは、Kafka、Spark、MLFlowなど、他の多くのAI専用またはデータ専用プラットフォームとも統合します。そしてUbuntu Proは、インフラストラクチャ、オペレーティングシステム、アプリケーションレイヤーまですべてに対応します。

Ubuntu Proは、継続的なセキュリティメンテナンスや依存ファイル管理を確実に行い、イノベーションに力を注ぎたい企業に最適です。Canonicalが最新バージョンのアプリケーションからセキュリティ修正をバックポートすることで、データサイエンティスト、MLエンジニア、運用チームは、アップグレードを強制されることなく長期的にセキュリティを確保できます。これが、10年にわたるオープンソースプラットフォームの安定性とコードの再現性を実現し、MLOpsをセキュアに導入したい企業に信頼をいただいている理由です。

参考資料

• UbuntuでのAI
• [ホワイトペーパー] MLOpsガイド
• [ウェビナー] Kubeflow vs MLFlow: which one to choose?