Совместная работа может быть не только у людей: сговор роботов

Совместная работа через сеть, просто в картелях, компаниях – это уже длиться много тысяч лет. А что в этом плане происходит с роботами, искусственным интеллектом, могут ли они объединяться для совместной работы без подсказки человека (прямой подсказки)? Сегодня технологии AI плотно заселили нашу повседневную жизнь: они рассчитывают наши каждодневные маршруты, они же переводят тексты и голос с иностранного на родной язык. ИИ даже подбирает уже нам музыку и фильмы в стриминговых сервисах, а также что нам читать, во что одеваться. Сейчас самообучающиеся алгоритмы учатся приводить к самым простым целям усложняющимися путями. Именно в этом эксперты усмотрели угрозу.

Каковы цели

Как мы знаем, технологиями ИИ пользуются для разных целей, и не всегда эта цель – облегчить нам жизнь, чаще это извлечение максимальной прибыли. И вот здесь машины, у которых поставлена цель максимизировать прибыль, легко могут сговориться, завышая цены, обсчитывая потребителей. А роботизированные системы в торговле используются повсеместно. Алгоритмы самостоятельно выставляют ценники, оценивая баланс спроса\предложения, они сами определяют размеры скидок, дают рекомендации покупателям. И в этой эволюции скрываются две проблемы.

Картельный сговор

Если смотреть на вопрос со стороны антимонопольных программ, то здесь алгоритмы могут легко обходить все ограничения. Дело в том, что если взять алгоритмы репрайсинга (изменение\оптимизация цен), то каждый из них отдельно может прийти к общему выводу: обеспечение максимальных цен можно обеспечить, избегая ценовых войн. Проще говоря, машинные алгоритмы могут вступить в настоящий картельный сговор, при этом такой цели даже не будет поставлена, и машины не будут иметь никакого общения между собой.

Каков предел

Мы живём в эпоху цифровых следов. Если раньше по следам человека на земле или снегу следопыты могли узнать, что это за человек, зверь, какого он размера, куда направляется и как быстро, то теперь в роли следопытов машинные алгоритмы, и исследуют они наши цифровые следы. А их в интернете оставляет каждый человек, в соцсетях, онлайн-магазинах, да и просто в браузерах. И это не просто следы, это для роботов лавина информации, которая открывает алгоритмам огромные возможности манипулирования ценами (стратегии ценообразования), в том числе и персонифицированные стратегии.

Чем больше человек оставляет цифровых следов, тем проще алгоритмам определить тот максимум, который он готов заплатить за товар или услугу, будь это абонемент в бассейн или вечернее платье. А объём данных, собираемых машинами о потребителях, об их привычках, уровне дохода и стиле жизни растёт в геометрической прогрессии.

Как договариваются роботы

Robotic hand using a laptop computer, illustration.

Как мы уже отметили, машины могут, даже не общаясь, легко вступать в некое подобие картельного сговора. Продавец просто ставит алгоритму цель без конкретного пути, машина сама ищет способ максимально эффективно достичь эту цель. Задача может быть продать подороже конкретный товар или максимально быстро распродать излишки\запасы. А ведь машины давно научились выигрывать у людей с сложных стратегических играх, так что, пути, которые выбирает алгоритм, могут быть весьма изощрёнными. На этот счёт проводились эксперименты, разным алгоритмам ставили для выполнения задачи разные условия, меняли их постоянно, но, в конце концов, машины приходили к одному. Главная особенность в том, что машины договариваются не прямым общением, а путём проб\ошибок. Такой картельный сговор просто невозможно вычислить и предотвратить.

А когда алгоритмы начнут использовать глобальные базы данных с информацией о потребителях, то определять покупательский уровень каждого человека для них не составит труда. И здесь машины могут пользоваться этим, чтобы выжимать с нас по максимуму.