大手SaaSを捨てた神戸市の「逆張り」

Copilotの限界を自前AI「Dify」で突破できた理由

「最新のAI SaaSを全庁導入すれば、DXは自然と進む」——そんなビッグテックの言葉を信じて痛い目を見た自治体や企業は少なくありません。

神戸市は2024年2月、全職員を対象にMicrosoft Copilotを導入し、生成AIの本格活用を開始しました。しかし、実際に運用を重ねる中で浮き彫りになったのは、汎用チャット型AIが抱える「現場の壁」でした。

そこで神戸市が選んだのは、SaaSの機能追加を待つことでも、全職員に高度な研修を強制することでもなく、オープンソースプラットフォーム「Dify」を活用して独自の庁内AI基盤「KOBE AI PORT」を自前構築するという強力な「逆張り」の決断でした。

なぜ神戸市は大手SaaS依存を脱却し、自前基盤の構築へ舵を切ったのか。その背景には、IT投資の常識を覆す構造的な勝ち筋が存在します。

1. 万能ツールが招いた「プロンプトの罠」と現場の停滞

Copilotのような汎用対話型AIは、いわば「何でも書ける真っ白なノート」です。自由度が高い反面、実務の現場では次のような課題が一気に表面化しました。

  • 指示コストの肥大化: 業務のたびに職員が自分で適切なプロンプト(指示文)を考え、打ち込む手間が発生する。
  • RAG(内部データ参照)の難易度: 自治体固有の条例、内部規定、行政ドキュメントを正確に参照・検索させて答える仕組みを、汎用UI上で構築するのは極めて困難。
  • 品質の格差と利活用の停滞: プロンプトスキルの高い一部のアーリーアダプターだけが恩恵を受け、苦手意識を持つ一般職員との間で活用度の差が拡大する。

「プロンプト研修を実施して職員全員のリテラシーを引き上げる」という正攻法は、膨大な教育コストがかかるうえに成果が出るまで時間がかかります。神戸市はこの「リテラシー向上頼みの普及」を潔く諦め、「職員にプロンプトを一切書かせない仕組みづくり」へと方針転換したのです。

2. Difyによる「身の丈に合ったレイヤー分離」という解法

神戸市が採用した「Dify」は、GUI(視覚的操作)上でワークフローやRAG(検索拡張生成)を組み込み、独自のAIアプリを迅速に作成・共有できる開発プラットフォームです。これにより、神戸市は「配管(基盤)」と「業務(アプリ)」を綺麗に分離するアーキテクチャを完成させました。

【従来の汎用SaaS利用】

[職員] ──(毎回プロンプト作成)──> [汎用チャットAI] ──> [手動で出力検証・修正]

※利用者のITスキルに品質が依存/指示コストが毎回発生

【神戸市「KOBE AI PORT」の構造】

[職員] ──(フォームに必要項目を入力)──> [Dify専用アプリ] ──(内部RAG参照)──> [AI出力] ──(人間の目)──> [業務完了]

※指示出しを標準化/白紙のノートを「専用申請書」に変革

汎用AIと専用AIアプリの違い

  • 汎用AI(Copilot等): 何でも書けるが、使いこなすには知識と工夫が必要な「白紙のノート」
  • 専用AIアプリ(Dify構築): 必要な項目を埋めるだけで、誰でも同じ品質の成果物が得られる「専用申請書」

デジタル推進部門や高度人材がDifyを用いて定型業務、データ抽出、庁内規程Q&Aなどの「完成品アプリ」を内製し、全庁に配る。一般職員はフォーム入力感覚でボタンを押すだけ。

この「中央集権的なアプリ配布」により、プロンプトの学習コストはゼロになり、全庁的な業務効率化が一気に加速しました。

3. ベンダーロックインを回避し、自治体特有の制約を突破する

自治体DXには、LGWAN(総合行政ネットワーク)などの厳しいセキュリティ制限、機微情報の取り扱い、複雑な行政プロセスといった独自の制約が存在します。

既成のビッグテック製SaaSだけに頼っていると、機能改修やデータ連携の自由度が効かず、ユーザーライセンス料の「継続的な課金モデル」に縛られ続けるリスクがあります。

神戸市があえて「自前構築」を選んだ真の狙いは、システムの主導権(自律性)を自分たちの手に取り戻すことにあります。オープンソースのDifyを自前基盤「KOBE AI PORT」として手元に置くことで、以下のメリットを享受できます。

  1. ベンダーロックインの回避: 特定のITベンダーやビッグテックの都合に左右されず、独自のセキュリティ要件(LGWAN環境等)にフレキシブルに対応できる。
  2. モデル進化への柔軟な追従: 裏側で動くLLM(大規模言語モデル)が進化した際も、基盤や業務ロジックを壊すことなく、安全かつ迅速にモデルのみを差し替えられる。
  3. コスト最適化: 1ユーザーあたりの固定ライセンス費に頼る運用から脱却し、API従量課金や内製化を活用した拡張性の高いコスト構造を実現できる。

4. DXの本質は「最新ツールの追従」ではなく「泥臭い仕組み化」

近年、システム開発やDXの現場では「基盤(配管)は物理的に壊れるまで無理に改修せず固定し、上位の業務・AI層(Dify等)を柔軟に入れ替える」という設計思想が注目を集めています。

メガバンクが勘定系システムのOS更新に伴う巨額の強制投資を避け、システムの「固定化・延命」によって浮いたリソースを新規事業やAI投資へ振り向けた事例と同様に、神戸市の取り組みも「ITの正論(常に最新SaaSを買い続けること)」に対する極めて合理的な反論です。

また、どんなにAIが進化しても、行政実務や顧客対応の最終出口には必ず「人間の目による確認(Human-in-the-Loop)」を組み込む必要があります。AIにフルオート(全自動)で処理させず、最後の一歩に「人間の1秒の承認」を残すことで、ハルシネーション(AIの嘘)や漏洩事故のリスクを物理的にゼロへと近づけることができます。

結論:自律型AI基盤へのシフトがもたらす未来

神戸市の「KOBE AI PORT」の事例は、単なる一自治体のツール選定の話ではありません。大手IT企業のSaaSに依存し続ける構造から脱却し、自分たちの業務プロセスに合わせた「自律型AI基盤」を内製する——これこそが、これから企業や自治体が目指すべきDXの現実解です。

  • 自由すぎる汎用AIから、直感的に使える「専用アプリ」へ
  • 現場のリテラシー向上頼みから、プロンプト不要の「仕組み化」へ
  • ベンダー任せのSaaS利用から、主導権を握る「自前基盤」へ

「新しくて高価なツール」を追いかけるのをやめ、現場の業務に即した身の丈に合う基盤を泥臭く構築すること。AIのスピードに流されることなく、コントロール権を自社・自庁の手元に残す決断力こそが、これからのデジタル時代を勝ち抜く最大の鍵となります。