Склонни сме да се доверяваме на съдържанието на видео и аудио записи. Но с AI лицето или гласът на всеки може да бъде пресъздадена с абсолютна точност. Продуктът е дълбоко фалшифициране, имитиране, което може да се използва за мемове, дезинформация или порно.
Един поглед към Никълъс Кейдж дълбоко фалшифицира или на Джордан Пийл deepfake PSA става ясно, че имаме работа със странна нова технология. Тези примери, макар и относително безобидни, повдигат въпроси за бъдещето. Можем ли да се доверим на видео и аудио? Можем ли да държим хората отговорни за действията им на екрана? Готови ли сме за дълбоки фалшификати?
Deepfakes са нови, лесни за правене и бързо нарастващи
Технологията Deepfake е само на няколко години, но вече е избухнала в нещо, което е едновременно завладяващо и обезпокоително. Терминът „deepfake“, който беше измислен в тема на Reddit през 2017 г., се използва за описание на пресъздаването на външния вид или гласа на човека чрез изкуствен интелект. Изненадващо, почти всеки може да създаде дълбоко фалшифициране с скапан компютър, някакъв софтуер и няколко часа работа.
Вярвате или не, изображението вляво е дълбокото фалшифициране.
Както при всяка нова технология, има известно объркване около дълбоките фалшификати. Видеото „пияната Пелоси“ е отличен пример за това объркване. Deepfakes са конструирани от AI и са направени да се представят за хора. Видеоклипът „Dunk Pelosi“, който е наричан дълбоко фалшифициране, всъщност е просто видео на Нанси Пелоси, което е било забавен и коригиран на височина за добавяне на ефект на неясен говор.
Това е и това, което прави дълбоките фалшификати различни от, да речем, CGI Кари Фишър в Star Wars: Rogue One. Докато Дисни харчи купища пари, изучавайки лицето на Кари Фишър и го пресъздава на ръка, маниак с някакъв дълбоко фалшив софтуер може вършете същата работа безплатно в един единствен ден. AI прави работата невероятно проста, евтина и убедителна.
Как да си направим Deepfake
Подобно на ученик в класна стая, AI трябва да се „научи“ как да изпълнява предвидената задача. Той прави това чрез процес на груба сила проба и грешка, обикновено наричан машинно обучение или дълбоко обучение. AI, който е проектиран да завърши първото ниво на Super Mario Bros, например, ще играе играта отново и отново, докато не измисли най-добрия начин да спечели. Човекът, който проектира AI, трябва да предостави някои данни, за да започне нещата, заедно с няколко „правила“, когато нещата се объркат по пътя. Освен това, AI върши цялата работа.
Същото важи и за дълбоко фалшиво лице за отдих. Но, разбира се, пресъздаването на лица не е същото като победата на видео игра. Ако трябваше да създадем дълбоко фалшифициране на Никълъс Кейдж, водещ на шоуто на Уенди Уилямс, ето какво ще ни трябва:
Видео на дестинацията: Към момента дълбоките фалшификати работят най-добре с ясни и чисти видеоклипове за дестинация. Ето защо някои от най-убедителните дипфалшификати са на политици; те са склонни да стоят неподвижно на подиум при постоянно осветление. Така че, имаме нужда само от видео на Уенди, която седи неподвижно и говори.
Два набора от данни: За да изглеждат точни движенията на устата и главата, имаме нужда от набор от данни за лицето на Уенди Уилямс и набор от данни за лицето на Никълъс Кейдж. Ако Уенди погледне надясно, имаме нужда от снимка на Никълъс Кейдж, който гледа надясно. Ако Уенди отвори уста, имаме нужда от снимка на Кейдж, който отваря устата си.
След това оставяме AI да си свърши работата. Опитва се да създава дълбокото фалшифициране отново и отново, учейки се от грешките си по пътя. Просто, нали? Е, видео с лицето на Кейдж на Уенди Уилям