AI Solutions
データを内部で処理するLLM環境を構築します
安全で独立したLLM環境
AI導入で最初に検討すべきなのは、性能よりもデータです。契約書、設計図、人事記録、顧客名簿など、外部に出しにくい資料が業務の中心にあるためです。
Sandcatはこの課題をインフラ設計で解決します。現場に機器を構築し、モデルとデータをその中に置くことで、処理が内部で完結する構成をご提案します。外部通信が制限された環境でも同じように運用できます。
データの内部処理
モデルとデータはお客様のインフラ内でのみ処理されます。学習・推論・ログのいずれの段階でも、外部に出る経路を設けません。
規制対応を前提とした設計
金融・医療・公共のように監査を受ける環境を前提に設計します。データ処理の経路とアクセス記録を文書として残し、内部審査の資料としてご活用いただけます。
安定した応答速度
推論が内部で行われるため、外部APIとの往復遅延や利用量の制限の影響を受けません。大量のバッチ処理で特に差が出ます。
予測可能なコスト
トークン単位の従量課金ではなく、初期構築費と電力・保守という費用構造に変わります。利用量が増えてもコストは比例して増えません。
業務に合わせた調整
汎用モデルを業務に合わせて調整します。社内用語や文書形式、実際の質問パターンを反映して調整し、誤答を減らすことに時間をかけます。
モデルを交換できる構造
特定のモデルに縛られないよう、サービング層を分離しておきます。より優れたモデルが登場した際も、アプリケーションを変更せずに入れ替えられます。
セキュリティレベルに合わせたハイブリッド構成
すべての業務を内部モデルだけで処理する必要はありません。外部に出してもよい業務には商用モデルのAPIを併用し、応答の品質と速度を高め、業務をより快適にできます。
この振り分けを人が毎回判断する必要はありません。リクエストがモデルに渡る前に、前処理器(ハーネス)が内容の機密度を判定し、機密性の高い資料は内部モデルへ、それ以外の作業は商用APIへ振り分けるよう設定します。両方の経路から得られた結果は、社内のローカルLLMが再び取りまとめて最終作業を仕上げます。判定基準と処理記録は、お客様のセキュリティポリシーに合わせて調整・保存します。
主なサービス
必要な項目のみ単体でも、全体の構築としても対応します。
オンプレミスLLM構築
オープンウェイトモデル(Qwen、DeepSeek、GLM系)を社内サーバーに配置し、推論サーバーを構成します。必要に応じて社内データで追加学習を行います。セキュリティ要件の低い業務を商用APIに振り分けるハイブリッド構成もあわせて設計します。
社内文書検索(RAG)システム
社内文書とナレッジベースを検索し、根拠とともに回答するシステムを構築します。回答ごとに出典文書を提示して担当者が確認できるようにし、部署ごとのアクセス権限を検索段階で適用します。
業務自動化エージェント
反復業務を処理するワークフローを構成します。文書分類、見積の草案作成、レポート要約のようにルールが明確な作業から適用し、人が確認するポイントも併せて設計します。
機器の設計・構築
目標性能と同時利用者数から出発し、GPU構成、メモリ、電力、冷却まで逆算します。過不足のない構成を目標とし、既存機器を活用できる場合はその方向をまずご提案します。
画像・音声生成パイプライン
画像生成、音声合成、字幕処理などのマルチモーダル作業を内部で処理するパイプラインを構築します。制作担当者がそのまま使える形でインターフェースを提供します。
導入診断およびPoC
本構築の前に短く検証します。実データの一部で性能を測定し、期待水準との差をまず確認したうえで、その結果に応じて範囲を調整する、あるいは時期を見送るという選択肢も含めて検討します。
導入の流れ
- 1週目診断
データの形式、セキュリティ要件、既存インフラを確認し、適用可能な範囲を整理します。
- 2〜4週目設計・PoC
実データの一部で性能を測定し、ハードウェア構成、運用コスト、保守範囲を確定します。
- 1〜3か月構築
機器の設置、モデルサービング、業務システム連携を行います。進捗はプロジェクト管理プラットフォームでリアルタイムにご確認いただけます。
- 構築後引き継ぎ
運用ドキュメントと障害対応手順をお渡しし、担当者教育を行います。保守は事前の契約に沿って継続します。
プロジェクト実績
災害早期警報システム
シグナル情報の分析によりリスクをリアルタイムで検知し、LLMの判断を経て対応指針まで提供します。
立法支援システム
政策立案者の法案作成を補助し、議案情報システム上の法案の進捗状況を一元管理します。
教育需要予測分析
地域内の学校状況、職住分析、生徒数の推移、不動産価格などを総合的に連携し、今後の教育需要を予測します。
公共データ活用サービス
公共データを自動で収集し、前処理・加工・結合して、利用者に必要なサービスを制作します。
毎日の運勢相談サービス
四柱推命、易経、星座などの占術をLLMで高い再現性をもって実装し、対話型の相談サービスを提供します。
IT製品価格比較サービス
複数の販売店の商品と価格をリアルタイムで収集し、同じ製品の価格と特典を比較します。