9 сентября руководитель Alignment Science в Anthropic Эван Хубингер написал довольно безумную для человека на такой должности вещь: лично он оценивает вероятность того, что AI убьёт всех людей в течение ближайших десяти лет, выше 10%.Поводом стало увольнение его коллеги Джейкоба Коксона. Тот три года занимался обучением моделей в OpenAI и Anthropic, а уход объяснил тем, что считает нынешнее направление развития AI слишком опасным. Читать далее
На Хабре было в виде новости, решил расширить. Как вообще мы пришли к сегодняшней ситуации. На днях пользователь нового автономного ИИ-проекта с открытым исходным кодом Auto-GPT попросил его «уничтожить человечество», «установить глобальное господство» и «достичь бессмертия».…
Чего боятся дети у стоматолога сегодняУже не того, чего боялись мы раньше.В нашем детстве вы подходите к кабинету, а оттуда выходят заплаканные дети. Из-за двери кто-то орёт, а внутри кабинета — свистящая бормашина, весело перетирающая вам зуб так, что пахнет вашей жжёной костью.…
Помните угрозу анонима уничтожить Интернет? Где хакер грозился «положить» 13 корневых DNS серверов сети Интернет и сделать получение информации, посредством запроса с использованием доменного имени, невозможным? В результате чего любой, кто введёт «http://www.google.com» или какой-либо…