HEROZ Tech Blog

日本将棋連盟公認「将棋ウォーズ」や、AIを活用したシステム企画・開発を行う、AI企業HEROZの公式テックブログです。

2024-01-01から1年間の記事一覧

社内向けHEROZ ASKにSLMのPhi-3.5を入れてみた

はじめに モデルのデプロイ 1. ワークスペースの作成 2. サーバーレスエンドポイントの作成 3. エンドポイントの詳細 Azure AI Foundryで作成したエンドポイントとの比較 langchainからの呼び出しコード 実行結果 モデルの精度と推論速度 ストリーミング 使…

NoSQL(mongoDB) 導入ガイド

はじめに NoSQL の利用を促進したいという意識のもとこの記事を作成しました。 今迄、数多くの案件に関わってきましたが、DB といえば大体 RDB でした。NoSQL を扱っている案件もあるのですが数少ないです。 NoSQL にしておけばこんなに苦労することはなかっ…

GraphRAGを試してみた

はじめに インストール 実行結果 気づいたこと 思考言語 既存システムへの組み込み おわりに はじめに GraphRAGはLLMによってナレッジ(知識)グラフを生成することで、複雑な情報のドキュメントから質疑応答を行う際の精度を向上させることができる手法ならび…

HEROZ ASK を支えるインフラ技術(第2回)

はじめに 前回の記事 『BRIDGE』掲載記事 『Microsoft Azure』の情報収集 『Microsoft Build』 『Microsoft Build Japan』 『Microsoft Ignite』 『Microsoft Ignite Japan』 『Microsoft (有志)』の記事 『Azureの新機能』 『Microsoft Learn』 『Azure コ…

HEROZ ASK プロトタイプでマルチモーダルRAGを動かしてみた

HEROZ ASKのプロトタイプに今年(2024年)に来ると言われているマルチモーダル(Multi modal) RAGを組み込みましたので、その結果について書いていきたいと思います。

HEROZ ASKのGPT-4o対応について

はじめに GPT-4oとは テキストの性能 日本語のRAGの性能 RAG(Retrieval-Augmented Generation)とは データソース AIアシスタント作成 モデルごとのRAGの性能確認 GPT-3.5 GPT-4 GPT-4o まとめ はじめに 当社では、ChatGPTのAPIを活用した「HEROZ ASK」とい…

RAGとMulti Query Retriever: 社内ナレッジ検索結果の精度向上の鍵

はじめに 知識抽出におけるRAGの役割 RAGの限界 LLMによるクエリ拡張 Multi Query Retrieverによるクエリ拡張 Multi Query Retrieverを利用したクエリ拡張時の性能とコストの評価 まとめ はじめに こんにちは、HEROZ ASK の開発チームです。 herozask.ai 今…

HEROZ ASK を支えるインフラ技術

はじめに 『Azure OpenAI Service リファレンスアーキテクチャ』の賛同パートナーについて 『Azure AI Hub』について 『HEROZ ASK』アーリーアクセス版について 正式サービス開始に向けて 最後に はじめに こんにちは、HEROZ ASK の開発チームです。 herozas…

HEROZ ASK: なぜHEROZが今、新しいSaaS型プロダクト開発に挑戦しているのか

はじめに HEROZ ASKについて そもそもHEROZはどのようなBtoB事業をやってきたのか 生成AIの登場と、Solutionとの両立 HEROZ ASKが目指す開発の方向性 最後に はじめに こんにちは、HEROZ ASKの開発チームです。先日、私たちが新しく開発しているSaaS型プロダ…

日本語LLMの評価についてプロンプトバージョンによる得意不得意を調べてみた

はじめに 評価対象 評価方法 プロンプトの中身 0.2: FintanPrompt 0.3: AlpacaPrompt 0.4: RinnaInstructionSFT 0.5: RinnaBilingualInstructionSFT 0.6: Llama2 評価結果 おわりに はじめに LLMの日本語に関する評価にはJGLUEデータセットを使用するlm-eval…