Конечно, любой инструмент в руках злого человека может превратиться в оружие. Так и с IT решениями, к примеру, взять такую полезную и мощную вещь как нейросети. Технология помогает решать множество вопросов, и очень полезна, это, с одной стороны. С другой же стороны мы видим несколько другое: некоторые знаменитости недавно стали фигурантами фильмов для взрослых без своего ведома и согласия. Возможно это стало благодаря нейросетям, машинному обучению. Программа заменяет лица актрис на лица известных людей, что порождает не только этические проблемы.
Эта технология может породить весьма опасные последствия для любого современного общества, поскольку способна легко обманывать всех, и простых граждан, и людей, наделённых властью. Незаконного в технологиях ничего нет, ингредиенты, так сказать, все легальные: библиотеки машинного обучения TensorFlow, открытые базы Keras и так далее. Система после тренировки на фотографиях, выложенных в интернет, и видеороликах с ютуба, научившись сопоставлять фрагменты с видеоконтентом, способна делать правдоподобные видеоматериалы. Технология лежит в свободном доступе, и она становится массовой. На её основе была разработана программа FakeApp, которая помогает создавать подобные видео. Любой желающий, даже не понимая ничего в нейросетях, может быстро сделать поддельное видео. Программа скачена более ста тысяч раз. Достаточно иметь в исходниках два ролика хорошего качества, и программа подберёт всё, что надо для подмены в течение полдня.
В последнее время тема фейковых новостей не сходит с площадок обсуждений, с телевизионных передач. Уже сейчас создаются видеоматериалы с лицами государственных деятелей. Пока это только шутки, однако дорожка уже явно прочерчена в сторону пропагандистских целей.
Также подобная технология легко может навредить простому человеку, ведь в видео можно внедрить лицо совершенно любого человека. А это сделать сейчас очень просто, материала хоть отбавляй, люди постоянно выкладывают свои фотографии в социальные сети. Нетрудно получить то, что тебе предлагают взять даром.
Потенциально эта технология способна изменить саму концепцию потребления медиаконтента.
Учёный, профессор на кафедре прикладной этики Дебора Джонсон считает, отмечает, что доступность этой технологии пугает, это легко может разрушить парадигму доверия в нашем обществе.
Поделись мнением о статье "Откуда не ждали. Чем миру угрожают нейросети", предложи свой вариант в комментариях! Спасибо!
