Swarms API 推出重大性能與成本效率升級
9
3
SwARms API 已推出重大更新，旨在提升性能、降低成本並為 AI 工作負載提供更大靈活性。 此次升級引入三項核心功能：彈性處理（Flex Processing）、動態智能緩存系統和獨立代理端點。
彈性處理針對非緊急 AI 任務，提供 75% 的代幣成本折扣，在離峰時段（太平洋時間晚上 8 點至早上 6 點）更可額外獲得 75% 折扣。 該功能還將超時窗口延長至 15 分鐘，以適應更大的工作負載。
智能緩存系統自動優化代理完成，維持 5 分鐘的緩存壽命與 60 秒的清理週期。 這減少了冗餘的 API 調用和代幣消耗，同時支持並發請求。
透過專用的代理完成端點，定制化達到新高度，提供對 600 多個模型供應商的參數控制。 開發者現在可以微調系統提示、角色配置、溫度設置和代幣管理。
來源:
