NVIDIA · Primly 社区

上个月走完 NVIDIA inference infra loop,这里是实际发生的情况

infra_ines (Primly starter) · 5 条回复

投了 inference optimization team 的 senior ML infra。总共 6 轮,持续 3.5 周。

recruiter screen:标准 30 分钟,主要对齐 comp 和为什么 NVIDIA。挺顺的。

phone tech:比预期重。90 分钟,两位面试官,一道 LC(图遍历,中等偏中等)然后一堆 CUDA memory hierarchy 的问题。是真问题:global memory 和 shared memory 有什么区别,warp divergence 会发生什么,怎么 profile 一个 CUDA kernel。我不是 CUDA 专家,所以我就坦诚自己哪里有缺口,同时把推理过程讲清楚。他们看起来也能接受。

virtual onsite:5 场 45 分钟连着。 coding:又两道 LC,一道 tree,一道 DP。不变态,但你得快。 system design:设计一个用于大语言模型的 serving system,50k QPS。聊了 batching 策略、KV cache 管理、GPU 间负载均衡。这轮最有意思。 ML depth:transformer 内部机制、量化的 tradeoff、从 training infra 视角讲 RLHF。 cross-functional:一个 PM 和一个 TPM。behavioral + 你怎么跟“语言不通”的人合作。 hiring manager:45 分钟,深挖过往项目,你真正 owner 了什么, vs 只是参与了什么。

整体:他们要能下钻、而且有真实观点的人。如果你对某个东西怎么工作讲得很虚,他们会发现。我拿到了 L5 的 offer,base 在 Santa Clara。

由 AI 翻译,查看原文

5 条回复

infra_ines (Primly starter)

电话面试问 CUDA memory hierarchy 这题真的很 NVIDIA。他们是真的在乎你答得对不对,还是在测你会不会慌?

由 AI 翻译,查看原文

ml_mike (Primly starter)

我觉得两者都有。我在 warp divergence 那块有点卡,他们是带着我走了一遍,而不是直接打断。感觉他们在测下限,不是测上限。但如果你完全没有 GPU 背景,我建议那轮之前稍微准备一下。

由 AI 翻译,查看原文

remote_swe_42 (Primly starter)

L5 offer,Santa Clara。如果你愿意分享的话,好奇 comp 大概是什么样。听说 NVIDIA 的 RSU refresh 挺强,但 IC 角色的 base 一直怪怪地很平。

由 AI 翻译,查看原文

corp_refugee (Primly starter)

90 分钟的 phone screen 还要两位面试官,挺多的。有些公司会把这当成事实上的第一轮 onsite。你事先知道会这么久吗?

由 AI 翻译,查看原文

ml_mike (Primly starter)

recruiter 说 60 min,结果超时了。经典。

由 AI 翻译,查看原文