Ако смятате, че можете „просто да разпознаете“ кога едно лице е генерирано от изкуствен интелект, най-вероятно сте прекалено самоуверени – и потенциално изложени на риск. Ново изследване показва, че хората вече системно се заблуждават от най-съвременните системи за генериране на лица. Проучване на UNSW Sydney и Австралийския национален университет (ANU) показва, че вече можем да считаме за остаряло разбирането, че разпознаваме кога един образ е създаден от ИИ.
В изследването дори т.нар. „супер-разпознавачи“ – хора с рядка, естествена дарба за разпознаване на лица, са се справили едва малко по-добре от случайните хора в откриването на нереални образи. Иронично, проучването установява, че най-големият „признак“, че едно лице е генерирано от ИИ, не е дефект или изкривено ухо, а самото съвършенство. Лицата, създадени от ИИ, често са „твърде хубави, за да са истински“ – необичайно симетрични, с добри пропорции и статистически обикновени.
Основните изводи от проучването:
- Разликата между увереността и реалността:
Повечето хора разчитат на остарели признаци (изкривени зъби, размити фонове), които съвременният ИИ вече е „поправил“. - Супер-разпознавачите също се подвеждат:
Хората, които обичайно се отличават с добро разпознаване на човешки лица, изпитват почти същите затруднения като останалите при разпознаване на генерирани образи. - Правилото „твърде обикновени“:
Лицата, генерирани от ИИ, често са по-симетрични и „обикновени“ в пропорциите си от реалните човешки лица – нещо, което мозъкът ни погрешно възприема като привлекателност и познатост. - Рискове за сигурността:
Тази неоправдана увереност прави хората по-уязвими от страна на измами, фалшиви профили и фалшива самоличност при подбор на персонал или онлайн запознанства. - Нужда от скептицизъм: Изследователите подчертават, че тъй като визуалната преценка вече не е надеждна, трябва да развием здравословна доза скептицизъм към всички дигитални изображения.
Какво посочват учените?
„Досега хората бяха уверени, че могат да разпознаят фалшиво лице“, посочва един от авторите на проучването, д-р Джеймс Дън от Училището по психология към UNSW. „Но лицата, създадени от най-напредналите системи, вече не се разпознават толкова лесно.“
В изследването, публикувано в British Journal of Psychology, учените са включили 125 участници – 36 „супер-разпознавачи“ и 89 души от контролна група. Те сапреминали онлайн тест, в който е трябвало да преценят дали показани им лица са реални или генерирани от ИИ. Предварително са премахнати изображения с очевидни визуални дефекти.
Резултатите показват, че хората със средни способности за разпознаване се справят по-скоро на случаен признак. Супер-разпознавачите се представили малко по-добре, но с минимална разлика. Като цяло обаче всички били доста уверени в способностите си – дори когато реалните им резултати не ги оправдават.
Краят на „очевидните дефекти“
Ранните изображения, създавани от ИИ, често се издаваха чрез явни дефекти – изкривени зъби, странни ръце, неправилно прикрепени уши, странни фонове. С развитието на технологиите обаче тези грешки почти изчезват. Най-реалистичните изображения вече нямат очевидни несъвършенства и са много по-трудни за разпознаване.
Много хора вярват, че могат да различат ИИ изображения, защото са използвали популярни инструменти като ChatGPT или DALL·E, но тези примери не отразяват съвсем точно нивото на реализма, достигнат от най-съвременните системи.
„Твърде добри, за да са истински“
Най-интересното откритие е, че лицата, създадени от ИИ, вече не се издават с грешки, а със съвършенството си. Те са необичайно симетрични, добре пропорционални и „статистически типични“.
Обикновено симетрията и средните пропорции се свързват с привлекателност и познатост. Но в този контекст те могат да бъдат сигнал за изкуствен произход.
„Сякаш са твърде добри, за да са истински“, посочват учените.
Какво означават резултатите от проучването?
Разчитането единствено на визуалната ни преценка вече не е надеждно. Това има значение особено в социалните мрежи, онлайн запознанствата, професионалните платформи и процесите по подбор на персонал.
„Необходима е здравословна доза скептицизъм. Винаги сме смятали, че снимката показва реален човек. Това вече не е гаранция“, посочва изследватнето.
Въпроси и отговори
Какво е „супер-разпознавач“?
Около 2% от хората имат изключителна способност да запомнят и разпознават лица, дори видени за кратко преди години. Но дори те вече се затрудняват с ИИ-генерирани изображения.
Има ли все още начин да разпознаем фалшиво лице?
Парадоксално – търсете съвършенство. Ако лицето изглежда математически средно, напълно симетрично и без типичните малки човешки асиметрии, вероятността да е генерирано от ИИ е по-голяма.
Защо опасно да не разпознаваме генерирани от ИИ лица?
Хората естествено вярват на това, което виждат. Ако приемем, че общуваме с реален човек, е по-вероятно да споделим лична информация или да станем жертва на финансова измама.
Източник: neurosciencenews.com