Deep-fake и рискове от изкуствения интелект
Дийпфейк (deepfake) е фалшиво видео, снимка или звук, създадени с ИИ, които изглеждат истински. Те се използват за измами, дезинформация и уронване на репутацията на хора. Признаци могат да са неестествено мигане, несъвпадащи устни и звук, странни ръце или фон. Рискове от ИИ са и пристрастните решения, нарушаването на авторски права и прекаленото доверие, затова Актът за ИИ на ЕС изисква дийпфейк съдържанието да е обозначено.
Какво да запомним
- Дийпфейк: реалистично фалшиво видео или звук, създадени с ИИ.
- Проверявай източника и търси същата новина в надеждни медии.
- При спешна молба за пари с гласа на роднина: обади му се на познатия номер.
- Обратното търсене на изображения открива произхода на снимка.
- Актът за ИИ на ЕС изисква обозначаване на дийпфейк съдържание.
Пример
Видео показва известен певец, който рекламира съмнителна игра. Устните не съвпадат със звука, а на официалния му профил няма такова видео: това е дийпфейк.
Проверете се: 18 въпроса
Натиснете въпроса, за да видите верния отговор и обяснението.
Какво е дийпфейк (deepfake)?
- Вид антивирусна програма
- Формат за компресиране на видео
- Метод за бързо зареждане
- Фалшиво видео или звук, създадени с ИИ, които изглеждат истински
Отговор: Фалшиво видео или звук, създадени с ИИ, които изглеждат истински
С ИИ може да се подмени лице или глас така, че записът да изглежда реален.
Кой признак може да издаде дийпфейк видео?
- Висока резолюция на екрана
- Неестествено мигане и устни, които не съвпадат със звука
- Наличие на субтитри
- Голям размер на файла
Отговор: Неестествено мигане и устни, които не съвпадат със звука
Генерираните видеа често имат дребни несъответствия в лицето, светлината и движенията.
Получаваш гласово съобщение с гласа на роднина, който спешно иска пари. Какво е правилно?
- Да изпратиш парите веднага
- Да се обадиш лично на роднината на познатия ти номер
- Да препратиш съобщението на приятели
- Да отговориш със своите банкови данни
Отговор: Да се обадиш лично на роднината на познатия ти номер
Гласът може да е имитиран с ИИ, затова се проверява по друг, сигурен канал.
Какъв е рискът, ако ИИ модел е обучен с пристрастни данни?
- Компютърът ще прегрее
- Моделът ще работи само без интернет
- Файловете ще бъдат компресирани
- Може да взема несправедливи решения за определени групи хора
Отговор: Може да взема несправедливи решения за определени групи хора
Моделът повтаря пристрастията, които има в данните за обучение.
Как можеш да провериш дали снимка от интернет е истинска?
- С обратно търсене на изображения, за да откриеш източника
- Като увеличиш яркостта
- Като я запишеш в друг формат
- Като преброиш харесванията
Отговор: С обратно търсене на изображения, за да откриеш източника
Обратното търсене показва къде и кога снимката се е появила за първи път.
Какво трябва да направиш, преди да споделиш шокиращо видео с известна личност?
- Да го споделиш веднага
- Да го изпратиш на всички контакти
- Да добавиш коментар и да го публикуваш
- Да провериш дали е от надежден източник
Отговор: Да провериш дали е от надежден източник
Непровереното видео може да е дийпфейк и така ще разпространиш дезинформация.
Защо дийпфейковете са опасни?
- Изтощават батерията на телефона
- Могат да разпространяват дезинформация и да увредят репутацията на хора
- Заемат много място в облака
- Забавят интернет връзката
Отговор: Могат да разпространяват дезинформация и да увредят репутацията на хора
Фалшивите записи се използват за измами, лъжливи новини и тормоз.
Кой въпрос повдига генеративният ИИ, когато създава картини в стила на чужди творби?
- Въпросът за скоростта на процесора
- Въпросът за авторските права
- Въпросът за резолюцията на монитора
- Въпросът за цената на интернета
Отговор: Въпросът за авторските права
Моделите се обучават с чужди произведения, затова правата върху резултата са спорен въпрос.
Какво изисква Актът за изкуствения интелект на ЕС за дийпфейк съдържание?
- То да бъде изтрито след 24 часа
- То да бъде публикувано само нощем
- То да бъде само черно-бяло
- То да бъде обозначено като изкуствено създадено
Отговор: То да бъде обозначено като изкуствено създадено
Регламентът на ЕС за ИИ (2024 г.) изисква прозрачност: генерираното или манипулирано съдържание се обозначава.
Защо прекомерното доверие в ИИ е риск?
- Хората спират да проверяват грешките и да мислят критично
- ИИ спира да работи
- Компютърът се заразява с вирус
- Интернет връзката прекъсва
Отговор: Хората спират да проверяват грешките и да мислят критично
ИИ може да греши, затова човекът трябва да проверява и да носи отговорност за решенията.
С помощта на какво се създават дийпфейковете?
- Фотоапарат на лента
- Ножица и лепило
- Калкулатор
- Изкуствен интелект
Отговор: Изкуствен интелект
Дийпфейковете се правят с модели на ИИ, обучени с много снимки и записи.
Какво е гласово клониране?
- Запис на песен
- Усилване на звука
- Имитация на глас с ИИ
- Превод на глас
Отговор: Имитация на глас с ИИ
ИИ се учи от записи на човек и създава нова реч с неговия глас.
Къде е най-добре да провериш дали известен човек наистина е казал нещо?
- В анонимен коментар
- В официалния му профил
- Във верижно съобщение
- В непознат канал
Отговор: В официалния му профил
Официалните профили и надеждните медии са по-сигурен източник.
Какво е воден знак (watermark) на съдържание, създадено с ИИ?
- Белег, че е създадено с ИИ
- Филтър за цветове
- Вирус в снимката
- Подпис на фотографа
Отговор: Белег, че е създадено с ИИ
Видим или скрит знак показва, че изображението или видеото е генерирано.
Какво е дезинформация?
- Случайна правописна грешка
- Официално съобщение
- Научна статия
- Умишлено разпространена лъжа
Отговор: Умишлено разпространена лъжа
Дезинформацията се разпространява нарочно, за да заблуди хората.
Какво да направиш, ако откриеш дийпфейк със свой съученик?
- Да го споделиш с всички
- Да отговориш с обиди
- Сигнал до мрежата и възрастен
- Да го харесаш
Отговор: Сигнал до мрежата и възрастен
Подава се сигнал в платформата и се казва на родител или учител; не се споделя.
Защо е трудно да се разпознае качествен дийпфейк само с очи?
- Винаги е черно-бял
- Изглежда много реалистично
- Няма звук
- Трае под секунда
Отговор: Изглежда много реалистично
Съвременните модели правят лица и глас почти без видими грешки, затова се проверява източникът.
Защо многото публични снимки и видео с твоя глас улесняват дийпфейк измамите?
- Дават материал за фалшификат
- Забавят интернета
- Изтриват профила
- Не влияят
Отговор: Дават материал за фалшификат
ИИ се нуждае от примери за лицето и гласа; колкото повече са, толкова по-лесно е фалшифицирането.