Сотрудник Microsoft: дипфейки представляют собой растущую угрозу

Интерактивные и композиционные дипфейки представляют собой два класса растущих угроз в области информационной безопасности. Об этом заявил главный научный сотрудник Microsoft Эрик Хорвиц. По словам эксперта, развивающиеся возможности дискриминационных и генеративных методов ИИ приближаются к критической точке. «Достижения предоставляют беспрецедентные инструменты, которые могут использоваться государственными и негосударственными субъектами для создания и распространения убедительной дезинформации», — написал Хорвиц. Ученый считает, что проблема возникает из-за методологии генеративно-состязательных сетей, состоящих из двух конкурирующих элементов: генератора и дискриминатора. Первый предназначен для создания контента, а второй — оценки его качества. Хорвиц добавил, что со временем генератор научится обманывать дискриминатор. «С этим процессом, лежащим в основе дипфейков, ни методы распознавания образов, ни люди не смогут надежно распознать подделки», — написал он. Эксперт подчеркнул, что до настоящего времени ИИ-подделки создавались и распространялись как разовые, автономные творения. «Однако теперь мы можем ожидать появления новых форм убедительных дипфейков, которые выходят за рамки фиксированных одноэлементных производств», — сказал он. Хорвиц предложил несколько способов, которые помогут подготовиться и защититься от ожидаемого роста числа подделок. Среди них: увеличение требований к журналистике и репортажам;повышение медиаграмотности людей;введение новых протоколов аутентификации для подтверждения личности;разработка стандартов для подтверждения происхождения контента;постоянный мониторинг. «Важно проявлять бдительность в отношении интерактивных и композиционных дипфейков», — заключил Хорвиц. Напомним, в сентябре ученые представили метод обнаружения аудиоподделок, измеряющий различия между образцами органической и синтетической речи. В августе хакеры использовали дипфейк для мошенничества с листингом на Binance. Злоумышленники выдали себя за CCO компании Патрика Хиллманна в серии видеозвонков с представителями криптовалютных проектов. В июне ФБР предупредило о растущем количестве случаев использования дипфейков на онлайн-собеседованиях. Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!