Video yükleniyor...

Video Yüklenemedi

Ana Sayfaya Dön

Know how long every operation takes on a computer. Once you do, identifying good vs bad vs acceptable performance becomes way easier. It all boils down to knowing your napkin math.

57,442 görüntüleme • 3 ay önce •via X (Twitter)

12 Yorum

Ben Dicken profil fotoğrafı
Ben Dicken3 ay önce

And btw @Sirupsen is the expert here. Longer video on youtube:

Obaid profil fotoğrafı
Obaid3 ay önce

Ayy I was just thinking about this today! So cool.

Ben Dicken profil fotoğrafı
Ben Dicken3 ay önce

/napkin-math when?

Obaid profil fotoğrafı
Obaid3 ay önce

Already done: :)

Samian profil fotoğrafı
Samian3 ay önce

napkin math is underrated. how do you keep those numbers in your head without writing them down

Ben Dicken profil fotoğrafı
Ben Dicken3 ay önce

🧠

Philip profil fotoğrafı
Philip3 ay önce

good stuff! for GPUs the bottleneck is bandwidth because we need to feed all compute units in parallel. per GPU bandwidth: HBM (GPU ↔ GPU memory): TB/s (~5-8 for HBM3) NVLink / scale-up (GPU ↔ GPU): low TB/s InfiniBand / scale-out (rack ↔ rack): 100s GB/s

Ben Dicken profil fotoğrafı
Ben Dicken3 ay önce

We need the inference napkin math

K profil fotoğrafı
K3 ay önce

if only there was a way to visualize this intuitively with balls

Sheikh profil fotoğrafı
Sheikh3 ay önce

Flame Graphs 🔥

Aadithya niranjan profil fotoğrafı
Aadithya niranjan3 ay önce

jus saw this yest while havin dinner....trus me i frgt what i had

Melon Usk profil fotoğrafı
Melon Usk3 ay önce

I like when math and number is used in the right way

Benzer Videolar