Token 數量增加
另一個改變是 GPT-3.5-turbo 的 Token 數上限變高了。OpenAI 將 GPT-3.5-turbo 提高至 16,000 個 token。這意味著它現在可以一次處理大約 20 頁的文字，雖然還無法與 AI 新創公司 Anthropic 的模型處理的數百頁相比。此外，OpenAI 正在實驗 32,000 token 的 GPT-4，這個真的不錯，不知道是 API 還是 ChatGPT token 上限提高？
更便宜的 API 價格
除此之外 OpenAI 也降低了 API 使用價格。原先的 GPT-3.5-turbo 現在以 25% 的折扣提供，每 1,000 個輸入 token 的成本為 $0.0015 美金，每 1,000 個輸出 token 的成本為 $0.002 美金。這代表大約一美元可以處理 700 頁的文字。OpenAI 將這些降價歸功於其系統的效率提升，而對於一家在研究和開發上投入數億美元的公司來說，這是很勇敢的一步，畢竟現在 AI 正夯，居然沒有打算趁現在多賺一點，反而是優惠開發者。
新功能：Function calling
Function calling 是 OpenAI 為 GPT-3.5-turbo 和 GPT-4 帶來的新功能。簡單來說，Function calling 讓開發者可以與這些模型溝通程式功能的能力，接著模型則會寫出以執行這些功能的程式碼 (出張嘴開發已經成真拉)。Function calling 還可以呼叫外部工具如 Plug-in 並提供答案。不止這樣，它還可以將自然語言轉換為資料庫的查詢指令，並從文字中取得結構化數據。這些模型擅長識別何時需要 Function calling，也能以 JSON 格式回覆。
留言
張貼留言