Благодаря искусственному интеллекту, все больше энтузиастов запускают свои продукты без команды профессиональных разработчиков. Но давайте взглянем на ситуацию с другой стороны: какое качество у таких проектов и какие уязвимости они могут нести? Здесь я хочу разобрать реальный кейс - уязвимость в одном очень популярном ИИ-приложении, которая открыла мне доступ к корпоративному токену OpenAI. Читать далее
Разработчик приложил к тикету свой токен целиком — чтобы ошибку авторизации можно было воспроизвести. Ошибку починили, тикет закрыли, токен так и остался в задаче, которую видит вся команда и подрядчики.Токен выглядит как шифротекст: длинная строка из букв, цифр и дефисов,…
В истории о том, как две модели OpenAI “сбежали” во время тестирования и взломали Hugging Face, появилась новая важная деталь. До недавнего времени было незвестно, как именно модели смогли выбраться. OpenAI говорила обтекаемо — про zero‑day в некоем стороннем ПО,…
Технология NFT (невзаимозаменяемый токен) появилась в 2017 году. Она дала возможность создавать уникальные цифровые предметы — будь то изображение, видео или аудиофайл. Каждый токен гарантирует уникальность, таким образом подтверждая право его владельца на цифровой объект. Рассказываем в нашей статье про взлет и падение технологии. И по каким причинам токенизация искусства не совсем удалась. Читать далее