2024年11月27日にMicrosoft Azure ブログで公開された「Microsoft Cost Management updates—November 2024(訳: Microsoft Cost Management 更新情報 - 2024年11月)」にて紹介された新機能「Azure Open AI コストビュー」と「Copilotを使ったAOAIのコストシミュレーション」を紹介します。
AI や Copilot が技術の中心として注目されている中、「Azure Cost 最適化」という分野においても Azure Open AI Service 関連のトレンドの波を感じますね。
Microsoft Cost Management updates—November 2024 について
今回の元ネタはMicrosoft 公式のMicrosoft Azure Blog から。
azure.microsoft.com
Microsoft Cost Management の最新情報はここを見るに限る。
ということで1つずつ紹介していきます。
Azure Open AI Service の Azure Open AI ビュー
原文を日本語自動翻訳して引用。
Azure OpenAI のコストをさらに簡単に分析できるように、新しい組み込みビューである Azure OpenAI の提供開始をお知らせします。この新しいビューでは、さまざまな期間 (実績と償却の両方) ですべてのモデルを実行したコストを表示できます。このビューには、購入サブスクリプションが選択したスコープ内にある場合の予約購入のコストも含まれます。
Microsoft Cost Management updates—November 2024 | Microsoft Azure Blog より引用。
Azure Portal から確認できる Microsoft Cost Management のビューで Azure Open AI 専用のビューができたようです。
「Cost Management」→「Reporting + analytics」の「Cost analytics」→「All views(すべてのビュー)」→ 「Azure OpenAI」から確認できます。
「Smart views(スマートビュー)」の「Azure OpenAI」 のボタンを押すとビューが確認できます。
指定した期間内における Azure OpenAI Service の価格の合計、平均、価格のグラフ、リソースごとやモデルそれぞれの課金詳細を確認できます。予約購入したコストなどもこのビューで確認できるらしいので Azure Open AI Service の使用量確認にはもってこいですね。
Azure OpenAI Service の Copilot コストシミュレーション
次はAzure OpenAI のトークンベースのコスト見積もりを紹介します。以前も紹介しましたが、Microsoft Copilot for Azure の機能で自然言語を利用したコスト関連の分析、集計などが行えるようになりました。
例えば、Azure ブログ中では「I want to know the costs of using Azure OpenAI for the last six months.(過去6ヶ月間のAzure OpenAIの利用コストを知りたいです。)」というプロンプトの機能は既に追加されているとのことでした。それに加えて下記のような質問ができるようになったとのことです。
今回、Copilot の機能を拡張し、Azure OpenAI トークンベースのデプロイのコスト見積もりにも対応できるようになりました。
Microsoft Cost Management updates—November 2024 | Microsoft Azure Blog より引用。
今回、Azure OpenAI のトークンベースデプロイコストの見積もりができるようになったとのことです。
例えば以下のような質問です。
「How much would the cost change if GPT-35-Turbo usage increased by 15%(GPT-35-Turboの使用が15%増加した場合、コストはどれくらい変わりますか？)」 というプロンプトでは現状のトークン数を取得→15%の使用量増加したとしたら→トークンの使用量想定の算出→元のコストとシミュレーションコストの比較まで行ってくれるようになったとのこと。
これはほんの始まりに過ぎず、より多くのシミュレーション シナリオをサポートするための機能強化を継続して行い、Azure の支出を見積もり、計画しやすくします。
この機能追加に関しては始まりに過ぎず、今後より多くの価格見積もりシミュレーションの強化が継続的に行われるということでさらなる便利さに期待です。というわけで実際に動かしてみました。
残念ながらそれ以外のプロンプトはうまく動かなかった。
感想「今後のさらなる機能追加に期待」
今回の機能追加ですが、地味と言ったら地味ですがこういうアップデートは段々便利になってくると思います。Azure Open AI Service の事例も増えてきて、実際に利用するユーザーも爆増している今、コスト最適化と言う目線がさらに注目される状況だと思いますので楽しみですね。
