メインコンテンツへスキップ
営業に問い合わせる

LLM APIエンドポイント

OpenAI互換API・トークン単位の課金

OpenAIやClaudeと同じ使い勝手のAPIを、オープンソースモデルで。

エンジニアなら誰でも使い慣れた1つのAPIエンドポイントから、オープンソースモデルを安定したパフォーマンスでご利用いただけます。ツール利用や関数呼び出しによるエージェント型アプリケーションにも対応し、課金はトークン単位です。

概要

使い慣れたAPIを、オープンソースモデルで

LLM APIエンドポイントは、OpenAI・Anthropicなどの大手モデルプロバイダーと同じインターフェースから、オープンソースの大規模言語モデルを利用できる共有型のAPIサービスです。インフラの管理は不要で、トークン単位の課金で利用できます。

OpenAI互換のAPI

ストリーミング対応の単一RESTエンドポイント。お客様のエンジニアがすでに使い慣れたインターフェースで、新しいSDKやプロトコルは不要です。

オープンソースモデル

主要なオープンウェイトモデルを同じエンドポイントから利用できます。モデルの追加やバージョン更新はTara Cloudが対応します。

安定したパフォーマンス

共有インフラ上で、安定したパフォーマンスを提供します。キャパシティプランニングは不要です。

トークン単位の課金

大手のプロプライエタリAPIと同様、トークン単位で課金されます。GPUの調達も、アイドル時間の費用もありません。

エージェント基盤

チャットだけでなく、エージェントのために

単なるテキスト生成ではありません。モデルがツールを呼び出し、複数ステップのタスクを実行するエージェント型アプリケーションのための基盤を標準で備えています。

ツール利用

モデルが社内ツールやAPIを呼び出し、アプリケーション側がその結果を構造化してモデルに返せます。

関数呼び出し

型付きシグネチャで関数を宣言すると、モデルが実行可能な構造化された呼び出しを返します。

エージェントランタイム

状態・スケジューリング・引き継ぎを備えた長期実行エージェントループを、標準でサポートします。

フロンティアモデル

OpenAI・Anthropic公式モデルを、Tara Cloud経由で1つの請求書に

大手プロバイダの公式フロンティアモデルも、同じTara Cloudアカウントからご利用いただけます。利用分はTara Cloudが一括して集約し、日本円で1枚の月次請求書にまとめます。

ご注意

クローズドソースモデルの推論は、日本国外で実行される場合があります

OpenAI・Anthropicの公式モデルは、各ベンダーの公式APIを通じて提供されるため、推論処理が日本国外のリージョンで実行される可能性があります。クローズドソースモデルを利用する際は、データの取り扱いについて各ベンダーの利用規約をご確認ください。

公式ベンダー・公式API

OpenAI・Anthropicの公式モデルを、各ベンダーの公式APIを通じて、公開された仕様どおりに提供します。

1枚の日本円請求書

すべての利用分をTara Cloudが一括して集約し、日本円で1枚の月次請求書にまとめます。

1つのアカウント・1つの統合

オープンソースモデルとフロンティアモデルを、1つのAPI統合で使い分けられます。

専用と共有の比較

共有APIか、お客様専用のシステムか。

ご要件に合わせてお選びいただけます。お客様専用のGPU環境で完全に隔離されたデプロイをご希望の場合は、「LLM as a Service」をご覧ください。

環境

お客様専用に構築されたGPU環境

お客様間で共有されるインフラ

隔離性

シングルテナント・他社と一切共有しない

マルチテナント・容量を共有

容量

固定または自動スケーリングのGPU

安定したパフォーマンス

課金

GPU秒単位・上限はお客様が設定

トークン単位

データ保管

推論はすべて日本国内

オープンソースモデルの推論は日本国内

最適な用途

規制対象データ、本番の専用システム

短期間での統合、幅広い実験

対象となるお客様

本番APIをすぐに使いたいすべてのチームへ

LLM APIエンドポイントは、インフラを構築することなく本番レベルのモデルAPIを求めるチームのためのサービスです。単一の統合からエンタープライズ規模まで対応します。

顧客向けアシスタント

チャットやコパイロット体験を、数か月ではなく数週間単位で本番投入できます。

エージェント型ワークフロー

ツールを呼び出し、社内システムを検索し、複数ステップのタスクを実行するアプリケーション。

バッチ処理・情報抽出

要約・分類・構造化抽出を大規模に実行し、トークン単位で課金されます。

本番APIでの開発を始める

ご利用予定のモデル、アプリケーション、想定ワークロードをお聞かせください。1営業日以内に、次のステップと技術的なウォークスルーをご案内いたします。