Вакансия из Telegram канала - Название доступно после авторизации
Пожаловаться
Зарплата и рынок
развернуть
На похожих ролях по рынку
$5.8к$5.8кмедиана$8.8к
10 в выборке
На международном рынке: $250к/год ($210к - $425к)
Мэтч & Сопровод
Покажет вашу совместимость и напишет письмо
Создать профиль и узнать мэтч
Описание вакансии
TL;DR
Исследователь (AI Safety): Создание синтетических датасетов с заранее известной структурой и обучение на них моделей для разработки бенчмарков интерпретируемости с акцентом на mechanistic interpretability, перколяцию и AI Safety. Focus on designing hierarchical data, conducting scientific computing in Python, and evaluating whether interpretability tools discover known features in trained models.
tl;dr: research scientist, $125k-170k/year, remote
В октябре interp-тусовка переругалась из-за Neural Networks Are Already Clean. Автор утверждает, что нейроны внутри моделей вовсе не такие запутанные, как все думали, но многие не согласны. Проверить сложно: никто до конца не знает, какие признаки на самом деле есть внутри реальных моделей, а игрушечные датасеты слишком плоские — в признаках намного меньше иерархии, чем в настоящих данных 🎲
(ex-PIBBSS) предложили подход в своей : генерировать синтетические датасеты с помощью критической перколяции.
На пороге фазового перехода перколяция дает фрактальные кластеры всех размеров, каждый из которых можно разбить на подкластеры поменьше. Похоже на то, как общие понятия в данных делятся на более частные. Только здесь устройство данных известно заранее, и можно честно проверить, находят ли его инструменты интерпретируемости 🔎
Теперь PrincInt ищет ресерчера как раз на это направление!
Вы будете создавать искусственные данные, которые похожи на настоящие, но устроены заранее известным образом. Затем — обучать на них модели. Из лучших датасетов соберут бенчмарки, на которых инструменты смогут проверять все, кто занимается интерпретируемостью.
Что нужно: 🌟 mech interp бэкграунд; 💡 PhD или сопоставимый исследовательский опыт в математике, физике, ML, нейробиологии, CS или теории сложных систем; 🐍 опыт научных вычислений на Python; 🗺 умение доносить сложное даже нетехнической аудитории; 📺 знание DL и опыт обучения моделей.
И пламенный интерес к AI Safety, конечно же!
Хорошо, если у вас есть что-то из этого: опыт ведения исследовательского направления и менторства, публикации в ML или других точных науках, а также знание статфизики (особенно перколяции и ренормализации), коалесцентных процессов, комбинаторики, теории сетей и графов, фракталов, законов масштабирования или когнитивистики.
Удаленка, но приоритет тем, кто готов основательно тусить в Лондоне / Bay Area 🧋
Есть визовое спонсорство, бюджет на страховку и ништяки, команду ведет PhD по астрофизике и ex-постдок NASA 🐌 Платят $125k-170k.
Не откладывайте в долгий ящик, осталось дней десять: Показать контакты🦙
Будьте осторожны
Если работодатель просит войти в их систему, используя iCloud/Google, прислать код/пароль, запустить код/ПО, не делайте этого. Это мошенники. Обязательно жмите «Пожаловаться» или пишите в поддержку. Подробнее в гайде →
Пожаловаться
Текст вакансии взят без изменений
Источник - Telegram канал. Название доступно после авторизации