Тихо сам с собою я веду беседу
Submitted by KKK on Wed, 11/06/2019 - 10:26.
Я тут спрашивал, что почитать про нейросетки "для чайников".
Если кому вдруг тоже интересно, вот
http://neuralnetworksanddeeplearning.com/chap1.html
нашёл тут на днях. Просто, доходчиво и впечатляет.
Мова аглицкая, так что не обессудьте.
P.S. Ой, не нравится мне всё это.
»
- KKK's blog
- Login to post comments
Спасибо, было
Спасибо, было интересно. Математику правда напрочь забыл уже, но насколько я их помню - принципы все те же, что и четверть века назад. Т.е изменились только вычислительные мощности, позволяющие теперь применять эти принципы на практике, отсюда и бум на "искусственный интеллект"?
Да там вроде
Да там вроде как и нет особой математики. Линейная алгебра только.
Насчёт вычислительных мощностей можно посмотреть рассекреченные "Принципы нейродинамики" Розенблатта - 61 год. Уже тогда мощностей кому надо хватало, а уж в 80-е, когда МК80 или Синклер только у ленивого на столе не стоял, и подавно.
Меня больше смущает другой вопрос - в задаче классификации нейросетка, какой бы сложной она не была, сводится к булевой функции многих переменных - фона, переднего плана и т.п. А с точки зрения обработки сигналов фон картинки это шум. Случайный процесс. И если мне не изменяет память, при подаче хотя бы на один из входов многопараметрической логической функции случайных данных на выходе будут тоже случайные данные. Именно на этом принципе работает схема шифрования с шифроблокнотом. Поэтому я озадачен, почему эту шнягу запихивают в системы автопилотов автомобилей? Ладно там спутниковая картография или перлюстрация почты - обработать хотя бы половину траффика автоматически, уже достижение. Но в автопилоте иметь около 50% вероятность ошибки - по моему рискованно.
"Именно на этом
"Именно на этом принципе работает схема шифрования с шифроблокнотом. "
Ой ли? Я всегда считал, что шифроблокнот - это набор одноразовых ключей для симметричного шифрования. Шума там, в моем понимании, нет от слова "совсем", есть недетская длина ключа и уникальный ключ на один сеанс связи/одно сообщение. Поэтому оно и невзламываемое в принципе. Шифр Вернама, абсолютная криптостойкость, вот это вот все.
> Шума там, в
> Шума там, в моем понимании, нет
Наоборот. Ключ - это и есть шум. Если он не шум, ключ повторяется например, то шифр теоретически может быть взломан.
Тут есть одна терминологическая ловушка - в имплементациях "ключ" - это чаще всего инициирующее значение генератора псевдослучайной последовательности, в теории "ключ" - это то, с чем хэшируют исходное сообщение, т.е. выход генератора (псевдо)случайной величины. Основная задача решаемая в шифровании это синхронизация генераторов псевдослучайных последовательностей на обоих сторонах так, чтобы об этом никто не догадался.
Стоп-стоп-стоп.
Стоп-стоп-стоп. У вас очень быстро мелькают руки, на самом деле.
1. Да, я согласен, что ключ в идеале должен быть случайным, и я в курсе, что по-настоящему случайный процесс тяжко сыскать. Но! Это к вопросу о сложности генерации истинно случайного ключа. Сам блокнот содержит уже совершенно конкретные ключи, а как именно они были сгенерены - не имеет значения. В момент использования для шифрации и последующей дешифрации - это уже совершенно конкретные данные.
2. "Основная задача решаемая в шифровании это синхронизация генераторов псевдослучайных последовательностей"
Совершенно не согласен с докладчиком. Никакой синхронизации генераторов не происходит. Есть ключ (открытый или закрытый - это другая история) он применяется к данным. Где ты увидел синхронизацию генераторов?
> Никакой
> Никакой синхронизации генераторов не происходит
А две идентичных копии шифроблокнота листаемых синхронно на передающей и приемной сторонах - это не синхронизация?
Генератор-то
Генератор-то тут при чем? Твое описание звучит как "синхронизировать работу двух устройств, в каждом из которых есть случайный компонент". Если мы оба имеем одинаковый ключ, никаких случайных компонентов там просто нет.
С точки зрения
С точки зрения математики (алгоритма), конечно нет никакого генератора. Алгоритму шифрования всё едино, откуда брать случайные числа - из пула заранее нагенерированных и хранимых чисел или генерировать их по мере необходимости на месте.
> Если мы оба имеем одинаковый ключ, никаких случайных компонентов там просто нет.
Как это? Мы взяли аппаратный генератор шума, оцифровали, распечатали в двух или более экземплярах в виде шифроблокнота. С чего вдруг эти цифры перестали быть случайными? Ты наверное хотел сказать, что они перестали быть секретными среди участников обмена?
Ты заметил, что дискуссия в методический домен перешла? Мы не слишком от темы отклоняемся?
Вот и я
Вот и я предлагаю вернуться к основам:
" А с точки зрения обработки сигналов фон картинки это шум. Случайный процесс. "
Это не совсем шум. В картинке есть паттерны. Именно на этом работают системы распознавания номеров на платных парковках, распознавания лиц на границе при автоматическом погранконтроле и пр. Можешь вычленить подходящее под паттерн - значит, можешь решить задачу распознавания "что это такое". Я пока не вижу проблемы в том, чтобы распознавать довольно быстро очень большое количество паттернов в картинке.
Лично мой опыт сводится к распознаванию довольно примитивных паттернов, но даже это с моим более чем скромным опытом обработки графики я сумел сделать некое время тому, и оно до сих пор вполне прилично работает, люди не жалуются.
> Это не совсем
> Это не совсем шум. В картинке есть паттерны.
Точно! Вся теория фильтрации базируется на статистических различиях полезного сигнала и шума. В условиях намеренной постановки помех статистическая фильтрация не работает - это задача другого математического класса.