Video yükleniyor...

Video Yüklenemedi

Ana Sayfaya Dön

Traditional coding benchmarks do not reflect how software is actually built and maintained. That's why we built a new benchmark, APEX-SWE, in partnership with Cognition. It measures whether AI models can perform complex, real-world software engineering work to ship systems that work and debug them when they don't. OpenAI...

220,973 görüntüleme • 7 ay önce •via X (Twitter)

33 Yorum

adarsh profil fotoğrafı
adarsh7 ay önce

APEX-SWE Leaderboard | Pass@1 🥇@OpenAI GPT-5.3 Codex (High) at 41.5% 🥈@AnthropicAI Opus 4.6 (High) at 40.5% 🥉@AnthropicAI Opus 4.5 (High) at 38.7% Every frontier model fails on nearly 60% of real production tasks. Check out the full APEX-SWE leaderboard:

adarsh profil fotoğrafı
adarsh7 ay önce

We have an open-source dev set on @huggingface: And, our eval harness on @GitHub:

adarsh profil fotoğrafı
adarsh7 ay önce

You can read more about APEX-SWE here:

Logan Watchorn profil fotoğrafı
Logan Watchorn7 ay önce

@cognition Let the hill climbing begin!

Vidit Agrawal profil fotoğrafı
Vidit Agrawal7 ay önce

@cognition APEX-SWE is a much better proxy for real engineering work than toy coding benchmarks—testing whether models can actually build, ship, and debug working systems. Great to see GPT 5.3 Codex (High) leading at 41.5% Pass@1.

khushi suri profil fotoğrafı
khushi suri7 ay önce

@cognition :o our quants

Robert Wachen profil fotoğrafı
Robert Wachen7 ay önce

@cognition Very exciting

musho profil fotoğrafı
musho7 ay önce

@cognition 🚀

Dhruv Ahuja profil fotoğrafı
Dhruv Ahuja7 ay önce

@cognition super insightful stuff

Grace Li profil fotoğrafı
Grace Li7 ay önce

@cognition congrats!

Sahil Panhotra | Indie Builder profil fotoğrafı
Sahil Panhotra | Indie Builder7 ay önce

@cognition i am surprised to know that OpenAi is winning in this when i thought it gonna be claude opus 4.6

Kevin Cherian profil fotoğrafı
Kevin Cherian7 ay önce

@suryamidha @cognition Go @AbhiKottamasu!

Jase profil fotoğrafı
Jase7 ay önce

@cognition any chance of adding xhigh for 5.4 and 5.3 codex?

Om Londhe profil fotoğrafı
Om Londhe7 ay önce

@cognition Amazing @OpenAI @AnthropicAI 🚀

Nikhil Sharma profil fotoğrafı
Nikhil Sharma7 ay önce

@cognition The companies most motivated to prove AI can replace developers built the benchmark measuring it. Mercor does AI hiring. Cognition made Devin. These are not neutral observers. The incentive structure is baked into the methodology.

Ege Erdil profil fotoğrafı
Ege Erdil7 ay önce

@cognition opus 4.5 > opus 4.6? lol

Armin Hamrah profil fotoğrafı
Armin Hamrah7 ay önce

@cognition Congrats Adarsh & team!

Leonard Tang profil fotoğrafı
Leonard Tang7 ay önce

@rhythmrg @cognition oh this is fire

Ravi Riley profil fotoğrafı
Ravi Riley7 ay önce

@cognition ultimate indians + asians collab

aDaD5bC profil fotoğrafı
aDaD5bC6 ay önce

@cognition ????

Kaodi Dike profil fotoğrafı
Kaodi Dike7 ay önce

@cognition 🚀🚀

Kai August profil fotoğrafı
Kai August7 ay önce

@cognition 🔥

Tom's KI Ecke profil fotoğrafı
Tom's KI Ecke7 ay önce

@cognition Definitely makes sense, appreciate your take!

Omkar Savant profil fotoğrafı
Omkar Savant7 ay önce

@cognition congrats! Seems great

Austin Jordan profil fotoğrafı
Austin Jordan7 ay önce

@cognition Great share

LapMatt profil fotoğrafı
LapMatt6 ay önce

@cognition Very insightful! APEX-SWE sets a new standard for evaluating AI in software engineering. It's crucial that our benchmarks reflect real-world challenges, as almost 60% of models struggle with production tasks. Exciting times ahead! 🚀

Kiran Bharambe profil fotoğrafı
Kiran Bharambe7 ay önce

@cognition Real-world complexity is where most models struggle.

T_Khanh2026.eth 🐬TermMax profil fotoğrafı
T_Khanh2026.eth 🐬TermMax7 ay önce

@cognition Finally measuring what matters

Bethany Hyde profil fotoğrafı
Bethany Hyde7 ay önce

@cognition Great one

Daily Wisdom profil fotoğrafı
Daily Wisdom7 ay önce

@cognition Numbers aside, the direction here matters more.

Max Rimpel profil fotoğrafı
Max Rimpel7 ay önce

@cognition 🔥🔥🔥

Mr. Luis profil fotoğrafı
Mr. Luis7 ay önce

@cognition All

Maanas Baraya profil fotoğrafı
Maanas Baraya7 ay önce

@cognition 🔥🔥🔥

Benzer Videolar