В понедельник Facebook объявил о запрете deepfake видео и измененных медиа-файлов на сайте социальной сети, сообщает Business Insider.
В заявлении компании говорится о многоплановом подходе к решению этой проблемы. Меры включают расследование ложного поведения в искусственно сгенерированном контенте и установление партнерских отношений с научными кругами, правительством и промышленностью для лучшей идентификации измененного контента.
«Манипуляции могут осуществляться как с помощью простых технологий вроде Photoshop, так и сложных инструментов с использованием искусственного интеллекта или методов „глубинного обучения“ для создания видеороликов, искажающих реальность», — говорится в заявлении компании.
Представители добавили, что «хотя такие видеоролики — все еще редкость в интернете, они представляют собой серьезную проблему для нашей отрасли и общества».
Компания определила deepfake контент следующим образом:
- он был отредактирован или синтезирован (за исключением улучшения качества) не очевидными для обычного человека способами, которые могут ввести в заблуждение
- это продукт искусственного интеллекта или машинного обучения, который объединяет, заменяет или накладывает контент в видео, делая его якобы подлинным
Нововведение не повлияет на контент, измененный в шуточных или сатирических целях.
Компания добавила, что установила партнерские отношения с Reuters, чтобы «новостные отделы во всем мире могли выявлять подделанные медиа-файлы с помощью бесплатного онлайн-обучения».
