Anthropic剛剛宣布Claude Sonnet 4現(xiàn)已支持高達(dá)100萬(wàn)Token的上下文窗口,容量是之前的5倍,開(kāi)發(fā)者在單次請(qǐng)求中就能處理整個(gè)大型代碼庫(kù)(超過(guò)75,000行代碼)或數(shù)十篇研究論文
Sonnet 4的長(zhǎng)上下文支持目前已在Anthropic API上向Tier 4和擁有自定義速率限制的客戶開(kāi)放公測(cè),并將在未來(lái)幾周內(nèi)向更廣泛的用戶推出
詳細(xì)信息:
https://docs.anthropic.com/en/docs/build-with-claude/context-windows#1m-token-context-window
目前,Sonnet 4的長(zhǎng)上下文功能已在亞馬遜Bedrock上作為公開(kāi)測(cè)試版(public beta)提供,此外,該功能也即將登陸Google Cloud的Vertex AI平臺(tái)
用例
100萬(wàn)Token的上下文窗口意味著Claude能夠處理和理解前所未有的信息量,從而支持更全面、數(shù)據(jù)更密集的復(fù)雜任務(wù)。開(kāi)發(fā)者現(xiàn)在可以利用Claude實(shí)現(xiàn)以下高級(jí)用例:
大規(guī)模代碼分析: 將包含源文件、測(cè)試和文檔的完整代碼庫(kù)一次性加載給Claude。模型能夠深入理解項(xiàng)目架構(gòu),識(shí)別跨文件的依賴關(guān)系,并為整個(gè)系統(tǒng)的設(shè)計(jì)提出優(yōu)化建議
海量文檔合成: 處理如法律合同、學(xué)術(shù)研究論文集或技術(shù)規(guī)范等大量文檔。Claude可以在保持完整上下文的情況下,分析數(shù)百份文檔之間的復(fù)雜關(guān)系
上下文感知智能體(Agent): 構(gòu)建能夠在數(shù)百次工具調(diào)用和多步驟工作流中保持上下文的智能體。開(kāi)發(fā)者可以向其提供完整的API文檔、工具定義和交互歷史,而無(wú)需擔(dān)心模型遺忘關(guān)鍵信息,從而保證了智能體行為的連貫性
全新定價(jià)模型與成本優(yōu)化方案
為了應(yīng)對(duì)處理超長(zhǎng)上下文所需增加的計(jì)算資源,Anthropic為超過(guò)200K Token的提示(prompt)調(diào)整了定價(jià)。具體的定價(jià)結(jié)構(gòu)如下:
提示長(zhǎng)度 |
輸入價(jià)格 (每百萬(wàn)Token) |
輸出價(jià)格 (每百萬(wàn)Token) |
---|---|---|
≤ 200K Tokens |
$3 |
$15 |
> 200K Tokens |
$6 |
$22.50 |
Anthropic同時(shí)指出,開(kāi)發(fā)者可以通過(guò)結(jié)合使用提示緩存(prompt caching)來(lái)降低長(zhǎng)上下文應(yīng)用的延遲和成本。此外,利用批處理(batch processing)功能處理100萬(wàn)Token上下文的任務(wù),還可額外節(jié)省50%的成本
價(jià)格:
https://www.anthropic.com/pricing#api
早期用戶好評(píng)如潮:解鎖生產(chǎn)級(jí)AI工程
此次更新已獲得早期合作伙伴的高度評(píng)價(jià):金杯銀杯不如用戶的口碑
Bolt.new,一家將Claude集成到其瀏覽器開(kāi)發(fā)平臺(tái)的公司,其聯(lián)合創(chuàng)始人兼CEO Eric Simons表示:“Claude Sonnet 4一直是他們代碼生成工作流的首選模型,其性能在生產(chǎn)環(huán)境中持續(xù)優(yōu)于其他領(lǐng)先模型。現(xiàn)在有了100萬(wàn)Token的上下文窗口,開(kāi)發(fā)者可以在處理真實(shí)世界的大型項(xiàng)目時(shí),依然保持所需的高準(zhǔn)確性
iGent AI,一家總部位于倫敦、專注于將對(duì)話轉(zhuǎn)化為可執(zhí)行代碼的軟件開(kāi)發(fā)公司,其聯(lián)合創(chuàng)始人兼CEO Sean Ward也分享:曾經(jīng)的不可能,如今已成現(xiàn)實(shí)。擁有100萬(wàn)Token上下文的Claude Sonnet 4極大地增強(qiáng)了軟件工程智能體Maestro的自主能力。這一飛躍解鎖了真正的生產(chǎn)級(jí)工程——能夠在真實(shí)世界的代碼庫(kù)上進(jìn)行持續(xù)數(shù)天的開(kāi)發(fā)會(huì)話,從而在智能體軟件工程領(lǐng)域建立了一個(gè)新的范式