HEROZ Tech Blog

日本将棋連盟公認「将棋ウォーズ」や、AIを活用したシステム企画・開発を行う、AI企業HEROZの公式テックブログです。

2024-12-01から1ヶ月間の記事一覧

社内向けHEROZ ASKにSLMのPhi-3.5を入れてみた

はじめに モデルのデプロイ 1. ワークスペースの作成 2. サーバーレスエンドポイントの作成 3. エンドポイントの詳細 Azure AI Foundryで作成したエンドポイントとの比較 langchainからの呼び出しコード 実行結果 モデルの精度と推論速度 ストリーミング 使…