Лет шесть назад я впервые услышал милое ироническое замечание «Вы не представляете, сколько энергии тратится для того, чтобы ваши картинки с котиками грузились на пару секунд быстрее». Долгое время я воспринимал его как «шутку, в которой есть доля правды». Однако в конце…
К 2030 году дата-центры будут потреблять 945 тераватт-часов электроэнергии — столько же, сколько вся Япония. Причина — стремительное развитие искусственного интеллекта. Google и Microsoft ищут решение в ядерной энергетике: первая компания строит новый реактор, вторая восстанавливает аварийную АЭС. Разбираемся, почему ИИ требует так много энергии, сколько атомных станций нужно для работы одного современного дата-центра и где уже запускают ядерные реакторы для работы с ИИ. Читать далее
Малые модульные реакторы – одно из самых популярных направлений развития атомной энергетики и реакторных технологий. Читать дальше →
Сдерживает ли токенизация потенциал больших языковых моделей? Несмотря на свою популярность, этот подход имеет ряд ограничений, которые становятся всё более заметными с развитием LLM. В статье мы разберём, почему токенизация является костылём, какие проблемы она создаёт и какие альтернативные методы предлагают исследователи для их решения. От байтовых моделей до работы с концептами — как пытаются улучшить ситуацию и что это может означать для будущего языковых моделей. Читать далее