Одной из самых живучих и модных околонаучных страшилок нашего времени является гипотетическое «случайное возникновение черной дыры в ускорителе». Якобы безответственные физики-теоретики могут случайно вылепить в очередном «сверхбольшом адронном коллайдере» конгломерат…
В августе 2022 года я публиковал статью «Как и зачем создавать вселенную в лаборатории», в которой рассказал о сути исследований Андрея Дмитриевича Линде и об их связи с многомировой эвереттовской интерпретацией квантовой механики. Там я затрагивал и тему магнитных…
Летом 2022 года я опубликовал на Хабре статью «Как и зачем создавать вселенную в лаборатории», которую задумывал исключительно в качестве оммажа великому космологу и мыслителю Андрею Дмитриевичу Линде, сыну одной из последних ночных ведьм, покинувших наш мир. Но с тех пор я…
Привет, Хабр! Меня зовут Владимир, и я давно хотел погрузиться во вселенную Warhammer40K. Для погружение во вселенную я решил обучить LLM на лоре Warhammer40K. И чтобы было интереснее, код этой LLM я решил написать сам, на голом pytorch (ну почти).Данная статья - первая в цикле статей по созданию и обучению GPT-like LLM с нуля. В них я постараюсь рассказать, как работают Decoder-only модели, как обучить небольшую LLM, сколько это заняло у меня времени. Читать далее