社内生成AIアプリケーション開発&運用支援

OVERVIEW

大手コンサルティング会社様にて、経営層直下の特任チームとして社内生成AIアプリケーションの基盤構築・ツール開発から運用支援までを担当。チャットボット型生成AIツールやRAG（検索拡張生成）基盤、負荷分散の仕組みを整備し、グループ全体数千人規模が活用する社内AIプラットフォームの開発を推進しました。

CHALLENGE

生成AIの導入にあたり、大量アクセスに耐えうるスケーラブルな基盤の構築、社内データを安全に活用するためのセキュリティ設計、そして全社数千人規模での利用定着が大きな課題でした。また、プロフェッショナルワークの品質を担保しながら業務効率化を両立する必要がありました。

SOLUTION

最新の生成AI技術を継続的に検証し、RAGや負荷分散型の堅牢な基盤を構築。多数のプロンプト集やeラーニング、育成研修を整備し利用定着を推進しました。さらにAIエージェントを開発し、プロンプト生成・社内資料活用・アウトプットレビューを一貫して自動実行する体制を構築。Private LLMやアクセス権管理付きRAGの導入により、高セキュリティと社内知見の活用を両立しました。

RESULT

グループ全体で月間数万時間規模の稼働時間削減を達成。AIエージェントの全社展開を完了し、論点設計・仮説立案から検証・示唆出しまでのプロフェッショナルワーク全般において生産性を大幅に向上させました。業務特化型AIの開発・導入にも成功し、継続的なAI活用の拡大を実現しています。

REFERENCES

本プロジェクトの情報は、当社の実績に基づき作成しています。記載の技術名・製品名は各社の商標または登録商標です。

• React
• Next.js
• Python
• AWS
• Azure
• OpenAI API
• LangChain 等