Azure OpenAI 完整教學：從申請到實戰的 GPT-4 企業部署指南

前言：為什麼企業選擇 Azure OpenAI？

「我們想用 GPT-4，但資料外洩怎麼辦？」

這是我們最常從企業客戶聽到的問題。

好消息是，Azure OpenAI Service 就是為了解決這個問題而生。它讓企業可以在微軟的安全環境中使用 GPT-4、DALL-E、Whisper 等 OpenAI 最強大的模型，同時確保資料不會用於訓練模型。

2024 年，超過 60% 的財星 500 大企業已經在使用 Azure OpenAI。這篇教學會帶你從零開始，完整了解 Azure OpenAI 的申請、部署到實戰應用。

Azure OpenAI 是 Azure AI 服務的一部分，更多 Azure 服務介紹請見 Azure 完整指南。

急著在企業導入 AI？直接預約 AI 導入諮詢，我們免費幫你評估最適合的方案。

---

一、Azure AI 服務全景圖

在深入 Azure OpenAI 之前，先了解它在 Azure AI 生態系中的位置。

1.1 Azure AI 服務分類

Azure 的 AI 服務可以分為三大類：

預建 AI 服務（Azure AI Services）

這是開箱即用的 AI 能力，包括：

• Azure OpenAI Service：GPT-4、DALL-E、Whisper
• 語音服務：語音轉文字、文字轉語音
• 視覺服務：影像分析、OCR、臉部辨識
• 語言服務：情緒分析、關鍵字擷取、翻譯
• 決策服務：內容審核、異常偵測

自訂 AI 開發（Azure Machine Learning）

如果預建服務無法滿足需求，你可以用 Azure ML 訓練自己的模型。適合有資料科學團隊的企業。

AI 應用平台（Azure AI Foundry）

這是建構企業級 AI 應用的整合開發環境。可以在這裡組合各種 AI 服務、管理 Prompt、評估模型效果。

1.2 Azure AI Foundry 是什麼？

Azure AI Foundry（原名 Azure AI Studio）是微軟在 2024 年推出的 AI 開發平台。

它的定位是「企業級 AI 應用的一站式開發環境」。

核心功能包括：

• 模型目錄：瀏覽和部署各種 AI 模型（OpenAI、Meta Llama、Mistral 等）
• Prompt Flow：視覺化設計 AI 工作流程
• 評估工具：測試模型品質、安全性、準確度
• 部署管理：將 AI 應用部署為 API 端點

如果你要建構的不只是簡單的 API 呼叫，而是完整的 AI 應用，AI Foundry 會是很好的起點。

1.3 Azure AI 與 Google AI、AWS AI 比較

三大雲的 AI 服務各有特色：

能力	Azure AI	Google Cloud AI	AWS AI
生成式 AI	OpenAI 模型獨家	Gemini、PaLM	Bedrock（多模型）
企業整合	與 M365 深度整合	與 Workspace 整合	與 AWS 生態整合
模型選擇	OpenAI + 開源	Google 自研為主	多廠商模型市集
合規認證	最完整	完整	完整

Azure 的最大優勢是獨家提供 OpenAI 模型的企業版。如果你確定要用 GPT-4，Azure 是目前最安全的選擇。

想了解更完整的雲端平台比較，請見 Azure vs AWS 完整比較。

---

二、Azure OpenAI vs OpenAI 官方 API

很多人問：「直接用 OpenAI 官方 API 不行嗎？為什麼要透過 Azure？」

這是個好問題。讓我們來比較一下。

2.1 核心差異比較表

項目	Azure OpenAI	OpenAI 官方 API
資料隱私	資料不用於訓練	可選退出
資料落地	可選區域（含亞太）	美國為主
SLA 保證	99.9% 可用性	無明確 SLA
企業合規	SOC 2、ISO 27001、HIPAA	有限
網路隔離	支援 Private Endpoint	公開網路
身分驗證	Azure AD/Entra ID	API Key
計費方式	Azure 統一帳單	獨立帳單
模型版本	略慢於官方	最新版本
價格	相近或略高	相近

2.2 為什麼企業選擇 Azure OpenAI？

根據我們協助客戶導入的經驗，企業選擇 Azure OpenAI 的主要原因是：

1. 資料安全與合規

Azure OpenAI 明確承諾：你的輸入和輸出資料不會用於訓練 OpenAI 模型。這對處理敏感資料的企業至關重要。

2. 網路隔離

可以把 Azure OpenAI 放在 VNet 裡面，透過 Private Endpoint 存取。外部網路完全無法觸及。

3. 與現有系統整合

如果企業已經用 Azure AD 做身分驗證，Azure OpenAI 可以直接整合。不需要額外管理 API Key。

4. 統一的雲端帳單

所有 Azure 服務的費用都在同一張帳單上。對財務管理和成本追蹤比較方便。

5. 內容過濾

Azure OpenAI 內建內容過濾系統，可以自動阻擋有害內容。企業可以根據需求調整過濾等級。

2.3 什麼情況適合用 OpenAI 官方 API？

OpenAI 官方 API 也有它的優勢：

• 最新模型：新功能和模型通常先在官方上線
• 更簡單的設定：不需要 Azure 訂閱，註冊就能用
• 個人開發者：小專案或學習用途
• 彈性計費：預付或後付，門檻較低

如果你是個人開發者做 Side Project，或者只是想快速測試新功能，OpenAI 官方會更方便。

但如果是企業正式環境，特別是處理客戶資料或內部敏感資訊，Azure OpenAI 的安全保障會讓你睡得更安穩。

三、Azure OpenAI 申請與設定教學

準備好開始使用了嗎？讓我們一步步來。

3.1 申請資格與流程

申請資格

Azure OpenAI 需要額外申請才能使用。微軟會審核申請，確保用途符合政策。

一般來說，以下情況比較容易通過：

• 有明確的商業用途說明
• 公司已經有 Azure 訂閱
• 非敏感領域（金融、醫療等需要額外說明）

申請步驟

1. 登入 Azure Portal
2. 搜尋「Azure OpenAI」
3. 點擊「申請存取權」
4. 填寫申請表單（公司資訊、用途說明）
5. 等待審核（通常 1-5 個工作天）

申請表單重點

• 用途說明：具體描述你要用 AI 做什麼。「提升效率」太模糊，「建立客服聊天機器人回答產品問題」比較好
• 資料類型：說明你會輸入什麼類型的資料
• 預期用量：大概的 Token 使用量

3.2 建立 Azure OpenAI 資源

申請通過後，就可以建立資源了。

步驟：

1. 在 Azure Portal 搜尋「Azure OpenAI」
2. 點擊「建立」
3. 設定基本資訊：
   • 訂閱：選擇你的 Azure 訂閱
   • 資源群組：建立新的或選擇現有的
   • 區域：選擇離你最近的區域（亞太可選 East US、Japan East 等）
   • 名稱：給資源一個識別名稱
   • 定價層：目前只有 Standard S0
4. 設定網路（可選 Private Endpoint）
5. 檢閱並建立

3.3 取得 API Key 與 Endpoint

資源建立完成後，你需要兩個東西來呼叫 API：

Endpoint（端點）

在資源的「概觀」頁面可以找到，格式像這樣：

https://your-resource-name.openai.azure.com/

API Key

在「金鑰和端點」頁面可以找到。有兩組 Key，用哪一組都可以。

重要提醒：

• API Key 要妥善保管，不要放在程式碼裡
• 建議用環境變數或 Azure Key Vault 管理
• 定期輪換 Key 是好習慣

---

四、GPT-4 模型部署實戰

有了資源之後，下一步是部署模型。

4.1 可用模型總覽

Azure OpenAI 目前提供的模型包括：

GPT 系列（文字生成）

• GPT-4o：最新、最強的多模態模型
• GPT-4 Turbo：平衡效能和成本
• GPT-4：原版 GPT-4
• GPT-3.5 Turbo：速度快、成本低

嵌入模型（Embedding）

• text-embedding-3-large：最高品質
• text-embedding-3-small：平衡品質與成本
• text-embedding-ada-002：舊版，仍可用

圖像生成

• DALL-E 3：最新圖像生成模型

語音

• Whisper：語音轉文字
• TTS：文字轉語音

4.2 模型部署設定

在 Azure Portal 部署：

1. 進入你的 Azure OpenAI 資源
2. 點擊「模型部署」→「管理部署」
3. 點擊「建立新部署」
4. 選擇模型（例如 gpt-4o）
5. 設定部署名稱
6. 設定 Token 配額（TPM，每分鐘 Token 數）
7. 建立部署

在 AI Foundry 部署：

1. 前往 AI Foundry
2. 建立或選擇專案
3. 進入「部署」頁面
4. 點擊「部署模型」
5. 從模型目錄選擇模型
6. 完成部署設定

4.3 API 呼叫範例

部署完成後，就可以開始呼叫 API 了。

Python 範例：

import os
from openai import AzureOpenAI

client = AzureOpenAI(
    api_key=os.getenv("AZURE_OPENAI_API_KEY"),
    api_version="2024-02-01",
    azure_endpoint=os.getenv("AZURE_OPENAI_ENDPOINT")
)

response = client.chat.completions.create(
    model="your-deployment-name",  # 你的部署名稱
    messages=[
        {"role": "system", "content": "你是一個專業的客服助理。"},
        {"role": "user", "content": "請問你們的退貨政策是什麼？"}
    ],
    temperature=0.7,
    max_tokens=500
)

print(response.choices[0].message.content)

curl 範例：

curl https://your-resource.openai.azure.com/openai/deployments/your-deployment/chat/completions?api-version=2024-02-01 \
  -H "Content-Type: application/json" \
  -H "api-key: YOUR_API_KEY" \
  -d '{
    "messages": [
      {"role": "system", "content": "你是一個專業的客服助理。"},
      {"role": "user", "content": "請問你們的退貨政策是什麼？"}
    ],
    "temperature": 0.7,
    "max_tokens": 500
  }'

覺得設定太複雜？ 從申請到部署，有很多眉角需要注意。 預約 AI 導入諮詢，讓專家幫你處理技術細節。

---

五、Azure AI Foundry / AI Studio 使用教學

如果你要建構的是完整的 AI 應用（而不只是單純的 API 呼叫），Azure AI Foundry 會是更好的選擇。

5.1 AI Foundry 核心功能

模型目錄（Model Catalog）

瀏覽和比較各種 AI 模型，包括：

• OpenAI 系列（GPT-4、DALL-E）
• Meta Llama 系列
• Mistral 系列
• Microsoft Phi 系列

每個模型都有詳細的能力說明、定價資訊、使用範例。

Prompt Flow

這是視覺化的 AI 工作流程設計工具。你可以：

• 拖拉元件建立處理流程
• 連接多個 AI 模型
• 加入自訂程式碼
• 測試和除錯流程

評估（Evaluation）

在部署前評估模型效果：

• 準確度測試
• 安全性評估
• 效能基準測試
• A/B 比較

部署（Deployment）

將 AI 應用部署為可擴展的 API 端點，支援：

• 自動擴展
• 流量管理
• 監控和日誌

5.2 建立第一個 AI Foundry 專案

1. 前往 ai.azure.com
2. 登入你的 Azure 帳號
3. 點擊「新建專案」
4. 選擇或建立 Hub（專案容器）
5. 設定專案名稱和資源
6. 開始建構 AI 應用

---

六、企業級 AI 應用案例

Azure OpenAI 在企業中有哪些實際應用？

6.1 智慧客服機器人

場景：電商平台的客服自動化

實作方式：

• 用 GPT-4 理解客戶問題
• 結合 RAG 架構查詢產品知識庫
• 自動回答常見問題
• 複雜問題轉接真人客服

成效：客服回應時間從 2 小時縮短到 30 秒，處理量提升 5 倍。

6.2 文件摘要與分析

場景：法務部門的合約審查

實作方式：

• 上傳合約 PDF
• GPT-4 自動摘要重點條款
• 標示風險條款
• 與範本合約比對差異

成效：合約初審時間從 2 天縮短到 2 小時。

6.3 程式碼輔助

場景：開發團隊的 Code Review

實作方式：

• 整合到 CI/CD Pipeline
• 自動審查 Pull Request
• 提出改善建議
• 偵測潛在安全漏洞

成效：Code Review 時間減少 40%，Bug 偵測率提升。

6.4 知識管理與搜尋

場景：企業內部知識庫

實作方式：

• 用 Embedding 模型向量化文件
• 建立語意搜尋引擎
• GPT-4 生成答案
• 引用原始文件來源

成效：員工找資料時間減少 60%，知識重複使用率提升。

---

七、定價計算與成本優化

Azure OpenAI 的費用是很多企業關心的問題。

7.1 計價方式

Azure OpenAI 按 Token 計費。Token 是模型處理文字的基本單位，大約：

• 1 個英文單字 ≈ 1-2 個 Token
• 1 個中文字 ≈ 2-3 個 Token

GPT-4o 定價（以 2024 年底為例）：

• 輸入：$2.50 / 1M tokens
• 輸出：$10.00 / 1M tokens

GPT-3.5 Turbo 定價：

• 輸入：$0.50 / 1M tokens
• 輸出：$1.50 / 1M tokens

7.2 成本優化技巧

1. 選對模型

不是每個任務都需要 GPT-4。簡單任務用 GPT-3.5 Turbo 就夠了，成本可以省 10-20 倍。

2. 優化 Prompt

精簡的 Prompt 可以減少 Token 使用。避免冗長的說明，直接切入重點。

3. 設定 max_tokens

限制輸出長度，避免模型「講太多」。

4. 快取常見回應

如果某些問題的答案固定，可以快取起來，不用每次都呼叫 API。

5. 監控用量

用 Azure Monitor 追蹤 Token 使用量，設定警示避免超支。

Azure OpenAI 費用怎麼算？更多細節請見 Azure 費用計算完整指南。

---

八、常見問題 FAQ

Q1：Azure OpenAI 申請要多久？

通常 1-5 個工作天。如果申請資料完整、用途說明清楚，會比較快通過。

Q2：Azure OpenAI 的資料會被用來訓練嗎？

不會。微軟明確承諾，透過 Azure OpenAI 的輸入和輸出資料不會用於訓練 OpenAI 模型。

Q3：Azure OpenAI 支援繁體中文嗎？

支援。GPT-4 系列對繁體中文的理解和生成能力都很好。

Q4：可以微調（Fine-tune）GPT-4 嗎？

目前 Azure OpenAI 支援 GPT-3.5 Turbo 的微調。GPT-4 的微調功能預計會逐步開放。

Q5：Azure OpenAI 有 SLA 嗎？

有。Azure OpenAI 提供 99.9% 的可用性 SLA，這是 OpenAI 官方 API 沒有的保證。

Q6：如何處理內容過濾被擋的情況？

Azure OpenAI 有內建的內容過濾系統。如果正常內容被誤擋，可以申請調整過濾等級。企業 AI 應用的資安考量，請見 Azure 資安完整指南。

---

九、結論與下一步

Azure OpenAI 是目前企業導入生成式 AI 最安全、最可靠的選擇。

它結合了 OpenAI 最強大的模型能力，以及微軟企業級的安全與合規保障。

如果你正在評估企業 AI 方案，建議的下一步是：

1. 申請 Azure OpenAI 存取權（如果還沒有的話）
2. 從小專案開始：選一個明確的用例，例如客服 FAQ 自動回答
3. 評估成效：測量 AI 帶來的效率提升
4. 逐步擴展：成功後再推廣到其他場景

想在企業導入 Azure OpenAI？

如果你正在：

• 評估 Azure OpenAI 與 OpenAI 官方 API 的選擇
• 規劃企業級 AI 應用但擔心資安合規
• 想了解 Azure OpenAI 的成本效益

預約免費 AI 導入諮詢，我們會在 24 小時內回覆。 從申請到上線，我們全程提供專業建議。

---

參考資料

1. Azure OpenAI Service 官方文件：https://learn.microsoft.com/azure/ai-services/openai
2. Azure AI Foundry：https://ai.azure.com
3. Azure OpenAI 定價：https://azure.microsoft.com/pricing/details/cognitive-services/openai-service
4. OpenAI 模型文件：https://platform.openai.com/docs/models
5. Microsoft Responsible AI 原則：https://www.microsoft.com/ai/responsible-ai