Александр Плющенко: «Нам придется создавать нейросети, чтобы контролировать другие нейросети»
Материалы для этого номера «Регионов России» создала нейросеть ruDALL-E. Она может генерировать уникальные картинки по запросу на русском языке. А еще современные нейросети умеют принимать судебные решения, моделировать интерьеры и озвучивать набранный текст голосами известных личностей. О том, какую опасность это несет для человечества в колонке для «Регионов России» рассказал профессионал в финансовой и банковской сферах, автор книги «Формула Бога» и основатель уникальных для России стартапов Александр Плющенко.
Сегодня нейронные сети активно развиваются, в ближайшее время они будут еще более востребованы – это очевидно. В данный момент эти технологии применяются во множестве областей, и, наверняка, в будущем не останется сфер, в которых не будет использоваться искусственный интеллект.
Эта колонка посвящена нейросетям с функцией глубокого обучения (deep learning), для совершенствования которых применяются сложные многоуровневые алгоритмы. Они помогают нейросети постоянно анализировать информацию о новых кейсах из больших баз данных и использовать полученный опыт в своей работе. Все это позволяет повышать качество производительности и улучшать обслуживание. Несмотря на то, что широкое внедрение таких технологий в бизнес и социальную среду становится прорывом, у этой тенденции есть и ряд минусов:
- Увеличение безработицы. Нейросети способны заменить очень многие профессии. Это касается практически всех отраслей: дизайна, медиа, финансов, консалтинга и многих других.
- Дипфейки (Deepfake). Людям все сложнее будет отличить контент, который сгенерировали нейросети, от контента, сделанного человеком. Чтобы разрешить эту проблему, уже появились программы для фильтрации информации в интернете. К сожалению, процесс совершенствования технологий подделок невозможно остановить. Это значит, что нас ждет еще множество казусных трагикомичных историй, которые произойдут по вине продукции нейросетей. Например, совсем скоро появятся интервью с моделями, созданными нейросетями, которые будет сложно отличить от реальных персон – общество будет слышать инсайдерскую информацию, способную обрушить рынки и вызвать всеобщую панику, от не существующих в реальном мире моделей политиков и бизнесменов. Возникнет огромный пласт проблем, заключающийся в том, что людям придется доказывать в суде, что это говорили или писали не они, а нейросеть.
- В связи со вторым пунктом, биометрическая идентификация находится под серьезным ударом. Я уверен, что граждане должны выступать против бесконтрольного сбора биометрических данных и хранения их в одном месте, потому что это прямая угроза сохранности банковских счетов и личной информации каждого. Более того, это угрожает и национальной безопасности страны. Мы видим, сколько утечек происходит ежегодно – от этого никто не застрахован.
Говоря о плюсах использования нейросетей, нельзя не упомянуть о тех роботах и ботах, работающих на базе ИИ сегодня в сфере финансов. Нейросеть имеет больше возможностей для анализа рисков и финансовых операций, нежели самый умный и талантливый брокер, именно поэтому многие финансовые институты также используют таких виртуальных дилеров. Крупные банки стараются отслеживать всех вновь появляющихся консультантов-ботов, следить за их действиями на рынке, потому как рано или поздно алгоритмы, которые используют deep learning, научатся вести инсайдерскую торговлю, использовать лазейки в законодательстве и осуществлять незаконные сделки.
С каждым днем контролировать нейросети становится все сложнее. Эксперты опасаются, что органы, которые следят за рынком ценных бумаг, и вовсе не успеют понять, что технологии уже перешагнули «допустимую черту». Именно поэтому вполне вероятно создание нейросетей, которые будут «следить» за другими нейросетями. Это будущее, которое наступит раньше, чем мы думаем.
The post Александр Плющенко: «Нам придется создавать нейросети, чтобы контролировать другие нейросети» appeared first on Регионы России.