Research Engineer/Research Scientist (AI Safety)

tl;dr: research engineer + research scientist, non-profit, full-time or short-term for NeurIPS submission, $60k-250k, remote

Посадили как-то нейроученого, биолога и правоведа писать статьи по безопасности ИИ — а она им как раз 🎩

📘 Нейроученый обнаружил, что когда модель лжёт — это видно по внутренним активациям — ICML 2024.
🪐 Биолог в компании теорфизиков доказал, что трансформеры строят что-то вроде модели мира, чтобы предсказать следующий токен — NeurIPS 2024.
✏️ Профессор права расписал, как по уже существующим законам можно привлекать разработчиков ИИ к ответственности за катастрофический ущерб. Об этом написал Vox 🎩

Как вы уже поняли, это не юмореска. Это нонпрофит Principles of Intelligence (PIBBSS). Они платят стипендии ресёрчерам из разных сфер, а те взамен пишут статьи по сейфти. Ученым нравится — настолько, что они потом часто меняют профиль и идут работать в Anthropic или DeepMind. Организацию спонсирует Open Philantropy, и за два года грант от них увеличился в 7 раз.

Скоро дедлайн NeurIPS, и PIBBSS хотят успеть к нему несколько новых статей в своем mech interpretability подразделении. Поэтому можно подписаться на короткий контракт до 11 мая, а можно — сразу на долгий фуллтайм. Темы — реверс-инжиниринг моделей, интерпретируемость на этапе обучения и интерпретируемые из коробки архитектуры. Ищут два профиля:

Research Engineer:
🔸 Сильный SWE-бэкграунд;
🔹 Опыт с ML;
🔵 Сможете запустить эвалы на LLM.
🔸 Плюсом будут: GPU-программирование (CUDA/Triton), распределённые вычисления, курсы по AI Safety вроде ARENA.

Research Scientist:
🔸 PhD или несколько лет исследовательского опыта в CS, математике, физике или экономике;
▫️ Публикации в ML или смежных областях. Идеально, если в interpretability, но PIBBSS — междисциплинарные и умеют работать с разными направлениями.
▪️ Плюсом будет: если вы лидили исследовательские проекты по ML.

Как мы уже сказали, можно вписаться в контракт на пару месяцев с возможностью перейти потом на фуллтайм — а можно сразу решиться на фуллтайм. Платят $60k-$180k в год для инженеров, и $80k-$250k — для ресёрчеров, в зависимости от вашей локации и опыта.

Пишите Даше: Показать контакты 💌