Влияние на изкуствения интелект върху информацията
Изкуственият интелект (ИИ) вече влияе както на това какво съдържание се създава, така и на това какво виждаме. Генеративният ИИ пише текстове и създава изображения, звук и видео бързо и евтино, затова може да се ползва и за масово създаване на правдоподобна дезинформация. Езиковите модели понякога „халюцинират“, тоест уверено измислят факти и източници. Алгоритмите в социалните мрежи подбират публикации според поведението ни, за да ни задържат по-дълго. Затова проверяваме съдържанието, създадено или подбрано от ИИ.
Какво да запомним
- Генеративният ИИ създава текст, изображения, звук и видео по зададена заявка.
- Халюцинация: ИИ уверено дава невярна или измислена информация.
- Алгоритмите подбират съдържание според кликовете, харесванията и времето ни за гледане.
- Някои платформи и инструменти отбелязват съдържанието от ИИ с етикет или воден знак.
Пример
Чатбот дава отговор с цитат от „книга“, която не съществува. Това е халюцинация, затова винаги проверяваме източниците, които ИИ посочва.
Проверете се: 15 въпроса
Натиснете въпроса, за да видите верния отговор и обяснението.
Какво означава „халюцинация“ при езиков модел с ИИ?
- Прекъсване на интернет връзката
- Отказ на модела да отговори
- Уверено генериране на невярна или измислена информация
- Бавна работа на сървъра
Отговор: Уверено генериране на невярна или измислена информация
Моделът подрежда правдоподобни думи и може да измисли факти или източници, затова отговорите се проверяват.
Защо генеративният ИИ увеличава риска от дезинформация?
- Работи само без интернет
- Изтрива верните статии
- Пише само на английски
- Позволява бързо и евтино масово създаване на правдоподобно съдържание
Отговор: Позволява бързо и евтино масово създаване на правдоподобно съдържание
Текстове, снимки и видеа, които преди изискваха много време, днес се създават за секунди и в голямо количество.
Как ИИ влияе на съдържанието, което виждаме в социалните мрежи?
- Показва на всички едно и също
- Подбира публикации според поведението ни, за да ни задържи
- Подрежда новините по азбучен ред
- Изтрива старите ни публикации
Отговор: Подбира публикации според поведението ни, за да ни задържи
Алгоритмите за препоръки анализират харесвания, гледания и време на екрана.
Как се нарича ИИ, който създава нови текстове, изображения или звук по зададена заявка?
- Антивирусна програма
- Генеративен ИИ
- Търсачка
- Операционна система
Отговор: Генеративен ИИ
Генеративният ИИ създава ново съдържание по заявка (промпт), например текст или изображение.
За какво служи воден знак (watermark) върху изображение, създадено с ИИ?
- Подобрява качеството на снимката
- Показва, че съдържанието е генерирано или откъде идва
- Намалява размера на файла
- Пази снимката от изтриване
Отговор: Показва, че съдържанието е генерирано или откъде идва
Видимият или скритият воден знак помага да се разпознае, че изображението е създадено с ИИ, или да се проследи произходът му.
Как се нарича текстовата заявка, която даваме на генеративен ИИ?
- Пиксел
- Драйвер
- Промпт
- Бисквитка
Отговор: Промпт
Промптът е инструкцията или въпросът, по който ИИ създава отговор.
Кое е пример за чатбот с генеративен ИИ?
- ChatGPT
- Microsoft Paint
- Калкулатор
- Notepad
Отговор: ChatGPT
ChatGPT е чатбот, базиран на голям езиков модел.
Какво означава съкращението AI?
- Интернет адрес
- Антивирусна програма
- Автоматичен индекс
- Изкуствен интелект
Отговор: Изкуствен интелект
AI е съкращение от Artificial Intelligence, тоест изкуствен интелект.
Какво правим с факт, който чатбот ни дава за реферат?
- Копираме го направо
- Проверяваме го в източник
- Изтриваме реферата
- Питаме друг чатбот
Отговор: Проверяваме го в източник
ИИ може да халюцинира, затова фактите се проверяват в надеждни източници.
Какво е синтетично съдържание?
- Ръкописен текст
- Съдържание, създадено от ИИ
- Снимка с фотоапарат
- Сканиран документ
Отговор: Съдържание, създадено от ИИ
Синтетично е съдържанието, генерирано изцяло или отчасти от изкуствен интелект.
От какво се учат големите езикови модели?
- Само речници
- Само учебници по ИТ
- Записи на птичи песни
- Огромни количества текст
Отговор: Огромни количества текст
Езиковите модели се обучават върху огромни колекции от текстове и така научават закономерности в езика.
Защо ИИ може да възпроизвежда пристрастия (bias)?
- Учи се от пристрастни данни
- Има собствено мнение
- Чете мислите ни
- Работи без електричество
Отговор: Учи се от пристрастни данни
Ако данните за обучение съдържат стереотипи, моделът може да ги повтаря.
Кое е пример за неетично ползване на генеративен ИИ?
- Резюме на собствен текст
- Идеи за проект
- Фалшиви отзиви за продукт
- Превод на дума
Отговор: Фалшиви отзиви за продукт
Генерирането на фалшиви отзиви заблуждава купувачите.
Какво означава, че езиковият модел има „дата на знанията“ (knowledge cutoff)?
- Работи само до полунощ
- Изтрива старите данни
- Не знае по-нови събития
- Спира след една година
Отговор: Не знае по-нови събития
Моделът е обучен върху данни до определена дата и не знае какво се е случило след нея, освен ако не търси в интернет.
Какво е „пристрастие към автоматизацията“ (automation bias)?
- Прекалено доверие в машини
- Недоверие към компютри
- Страх от роботи
- Бърза автоматизация
Отговор: Прекалено доверие в машини
Хората са склонни да приемат решенията на автоматични системи, без да ги проверяват.