Чему можно научиться у нейросетей. 4 урока работы с искусственным интеллектом

Обучать — значит учиться вдвойне, говорил французский писатель Жозеф Жубер в те времена, когда люди учили лишь друга друга. Современный человек обучает не только себе подобных, но и нейронные сети. А, значит, и они могут нас чему-то научить. Чему именно — рассказывает читателям Reminder Таня Савельева, CEO SupportAI, автор канала @tldr_tany, запустившая более 30 технологичных продуктов и проектов на основе искусственного интеллекта в Яндексе и Сбербанке, связанных с биометрией, фотоконтролем, автоматизацией колл-центров и аналитикой рекламы.

Связи решают

Нейросеть — это по сути группа узлов, соединенных связями. Сила этих связей настраивается в процессе обучения сети с помощью техники, которая называется обратным распространением ошибки. Вы берете массив данных (скажем, изображения животных), назначаете ключевой критерий (тип животного) и даете команду «выбрать картинки с котами». По мере работы сети вы анализируете, какие связи дают верный ответ, а какие работают вхолостую или приводят к ошибкам. И прицельно усиливаете одни и ослабляете другие. По такому же принципу построена когнитивно-поведенческая терапия: специалист помогает вам определить типичные для вас связи между стимулами окружающей среды (например, меня толкнули в метро) и реакцией на это воздействие (я не дала сдачи — я жертва). И учит прицельно перенастраивать нежелательные, деструктивные или ошибочные связи: я не дала сдачи — это мой выбор. Учить себя как нейросеть можно и самостоятельно. Допустим, вы обнаруживаете, что мысли о работе вызывают негативную ассоциацию с неприятным вам человеком и, чтобы изменить эту реакцию, сознательно усиливаете позитивные ассоциации с дружелюбными коллегами. Или замечаете, что в какой-то локации (кафе, переговорка, дальний угол офиса) получается работать продуктивнее: это хороший повод вернуться туда и закрепить связь.

Память подводит

Запоминание — это изменение способности одних нейронов активироваться при возбуждении других нейронов. Количество узлов в нейросети, как и нейронов в мозге, не безгранично. И в любую комбинацию, связанную с конкретным воспоминанием, входят какие-то нейроны, которые хранят и детали других воспоминаний. То есть, каждый раз, когда мы обращаемся к прошлому опыту, мы смешиваем одни воспоминания с другими и иногда сильно их меняем, как узоры в калейдоскопе. Как легко можно использовать это свойство мозга для внушения ложных воспоминаний, показали исследования психолога Элизабет Лофтус. В одном эксперименте родственники рассказывали испытуемым придуманные истории из детства, а потом ученые задавали им наводящие вопросы на эту тему. Каждый четвертый поверил, что истории правдивы, а некоторые даже дополнили их своими выдуманными деталями. Так что, когда принимаете решение на основе «пережитого», имейте в виду: картина, которая всплыла у вас в памяти здесь и сейчас, может быть всего лишь одной из версий прошлого или даже просто фантазией.

Не стоит проводить прямую через одну точку

Есть такое распространенное когнитивное искажение — ошибка регрессии (regression fallacy). Это иллюзия того, что мы понимаем причину какого-то явления. Например, сегодня вы очень плохо пробежали кросс. В следующий раз, вне зависимости от того, как именно вы исправите свою технику, результат, скорее всего, будет лучше. Просто потому что в прошлый раз он был ниже среднего. Конкретных причин может быть много, включая случайности. Но у нас есть склонность связывать изменение результата только с теми факторами, которые мы знаем или можем контролировать. Обычно — со своими решениями: я пробежал лучше потому, что выпил больше воды или не ел два часа перед тренировкой. Из-за привычки делать выводы на основе недостаточного количества данных у нас постепенно складывается ложное представление о том, что происходит с нами и миром вокруг. У нейронных сетей это явление называется переобучением. Как они с этим борются? Тремя способами: собирают больше данных; рандомно откидывают некоторые параметры предсказаний и смотрят, как меняется результат; предобучаются на основе данных из других доменов. В переводе на человеческие реалии это означает: всегда собирать дополнительную информацию, подвергать сомнению свои взгляды, читать книги и слушать других людей. А главное — не спешить с выводами и проводить прямую хотя бы через две точки.

Exploration vs. Еxploitation

Сети экспериментируют со своей жизнью. Но в меру. Эта концепция называется exploration vs. exploitation. Часть времени алгоритмы принимают решения путем выбора оптимальных стратегий, а в какие-то моменты генерируют случайные действия. Причём в начале обучения со случайными действиями они экспериментируют чаще. Это позволяет им находить принципиально новые и качественно более эффективные решения.

В человеческом мире это выглядит примерно так. Можно всю жизнь выбирать наиболее просчитанные и надежные стратегии. Учиться в школе на одни пятерки, потому что за это хвалят взрослые. Поступить на математический факультет, потому что хорошо дается математика. Устроиться на работу в лабораторию при институте, потому что ваше окружение считает это лучшим вариантом. Защитить диссертацию и проработать 20 лет научным сотрудником. Все эти решения логичны, оптимальны и дают результат. Проблема в том, что они принимаются с ограниченным диапазоном данных. Если вы не экспериментируете — не общаетесь с людьми из других кругов, не путешествуете по миру, не пробуете себя в других сферах деятельности, — ваш выбор будет недостаточно персонализирован и потому с большой вероятностью не сделает вас счастливым. В общем, стоит пробовать новое.