Хотел проверить, как далеко можно зайти, если учить скрытый слой нейросети вообще без backprop, только локальными хеббовскими правилами. Спойлер: правило в итоге свелось к обычному k‑means, а backprop оно не обогнало ни по точности, ни при малом числе меток, ни по забыванию. Рассказываю, как сеть убивала собственные нейроны, как эволюция правил обманывала саму себя и где ошибался я сам. Читать далее
Нейросеть никогда не заменит человека! Нейросеть не умеет ставить цели! Нейросеть не обладает эмоциями и творческим потенциалом! Нейросеть не умеет впитывать знания из окружающего мира! Нейросеть не обладает сознанием! Нейросеть может учиться только на том, что создаём мы,…
Всем известно, что обучение нейросетей требует значительных вычислительных ресурсов. Но что делать, если у вас нет мощного оборудования? В этой статье я расскажу, как обучить нейросеть частями, но и объясню ключевые понятия вроде слоев, батчей, и функций активации. Читать далее
Привет, Хабр! Я Лёша, позывной @а1ex_ma в соцсетях и мессенджерах. Это моя первая публикация на Хабре — в ней я рассказываю о том, как создал свою первую нейросеть. Меня зацепила идея — нейросеть, которая даёт совет написать нейросеть для решения поставленной задачи. А чтобы усилить этот сюр, я решил написать нейросеть с помощью нейросети. Абсолютный абсурд в квадрате — как раз то, что я люблю больше всего.Что получилось из этой истории — читайте в моей статье. Читать далее