Pie & AI Велико Търново #3 — recap: Доверие срещу проверка (първото онлайн издание, с пълен запис)

На 31 август направихме нещо ново: третото издание на Pie & AI Велико Търново — и първото изцяло онлайн. Гост-лектор беше Калин Димитров с тема, която става все по-актуална с всеки изкаран от AI отговор: „Trust vs Verification” — доверие срещу проверка. Кога можем да се доверим на изкуствения интелект и защо е важно да проверяваме това, което генерира?

А най-добрата новина за всички, които изпуснаха вечерта: пълният запис вече е в YouTube канала ни — в три части, вградени по-долу точно там, където е съответната част от разказа.

Съдържание

Накратко: какво е Pie & AI

Pie & AI е серия локални срещи на DeepLearning.AI, организирани независимо от хора в местните AI общности по целия свят. Кратки практически доклади, разговори между хора, които реално правят неща с AI, нетуъркинг — и парче пай накрая (оттам и името).

След разпродадения дебют през юни и второто издание през юли това беше трето издание за три месеца — и първи експеримент с изцяло онлайн формат. Инициативата пое самият Калин: той стана първият ни лектор, който говори пред камера вместо пред залата.

Кой говори: Калин Димитров

Калин е в IT от около 15 години, от които последните 10 — във фронтенд разработката. По образование е математик, по диплома — педагог, и както сам каза, по призвание също: голяма част от времето му извън работа минава в заниманията с деца, ученици и студенти.

Точно тази комбинация направи доклада двоен: едната половина — как AI подвежда нас, възрастните; другата — какво причинява на тези, които тепърва изграждат критичното си мислене.

Тезата: AI е проектиран да звучи уверено — дори когато греши

Част 1 от записа: представянето и основната теза (~15 мин).

Калин тръгна от прост въпрос към публиката: кога за последно реално провери отговор на ChatGPT или Claude, преди да го използваш? Честният отговор на повечето от нас е „рядко”. И причината не е мързел, подчерта той — причината е, че системата е проектирана да звучи сигурно:

„Изкуственият интелект е проектиран да звучи сигурен — дори когато греши.”

Оттам тръгнаха двете явления, около които се въртеше целият доклад. Изглеждат отделни, но според Калин са едно и също нещо, погледнато от два ъгъла:

1. AI ни отучва да питаме „откъде знаеш това?” Когато получим отговор, мозъкът ни не прави проверка „вярно ли е”, а светкавична преценка „звучи ли авторитетно” — рефлекс, граден с години, в които авторитетният тон е идвал от хора, които наистина знаят. Езиковите модели използват същия тон, но нямат представа дали казаното е вярно: те връщат най-вероятно звучащия отговор на базата на тренировъчните си данни, не проверения.
2. Същият AI прави производството на убедителни лъжи тривиално. Преди за фалшива снимка, видео или документ трябваха екип, ресурс и умения. Днес — по думите на Калин — „идея, един промпт и няколко хиляди токена”.

Резултатът от комбинацията: притъпен рефлекс за проверка плюс съдържание, което се фабрикува без никаква съпротива. Оставаме без естествен филтър.

Халюцинирани източници — от първа ръка

Най-силната част от доклада беше личната история. Калин в момента пише научна статия — и при работата с AI върху текста се сблъсква с нещо коварно: моделът не просто си измисля статии, автори, линкове и DOI номера в перфектно академично форматиране. Веднъж му цитирал истински автор с истинска публикация — но с измислено съдържание: моделът „доразширил” мисълта на автора точно така, че да пасне на търсената теза.

Правилото, което Калин си е изградил оттогава (и което звучи познато от предишните ни издания):

• Даде ли ти AI източник — провери го директно в базата данни. Добре форматираните цитати, редове и списания не са доказателство, че съществуват.

Децата: същият механизъм, без изградената защита

Ние, израсналите с интернет, имаме поне частичен инстинкт за фалшиви новини — знаем как изглеждат и откъде да започнем проверката. Децата, за които AI е на един клик разстояние от първия им съзнателен ден онлайн, нямат този инстинкт. И по-лошото: нямат повод да го изградят. Ако растеш с усещането, че AI винаги има отговор, рядко минаваш през фазата „сравнявам източници” — не защото някой те е учил да вярваш сляпо, а защото никога не ти се е налагало обратното.

Калин очерта критичните точки, в които този механизъм става опасен: изолация в офлайн средата → търсене на принадлежност онлайн, често в затворени групи → липса на проверка на това, което се консумира → поведение за публика. AI не учи децата на лошо — вградените предпазни механизми спират директните вреди. Но ако липсва спирачката „съмнение”, екстремното съдържание не среща филтър по пътя си.

Част 2 от записа: сигналите за родители и учители, финалът на доклада и началото на дискусията (~13 мин).

Какво да направиш — според ролята ти

Ако си родител. Не чакай драматични признаци — гледай за дребните: детето цитира факти с необичайна увереност, без да е ясно откъде ги знае; жаргонът му рязко се сменя с възрастово несвойствен; дразни се, когато поставиш „факта” под съмнение; показва ти екрана за две секунди и го затваря, колкото да приключи спора. Решението не е незабавна забрана на AI или социалните мрежи, а задействане на рефлекса с игра: „нека проверим заедно”, „да потърсим контрафакти”. Раздразнението се превръща в тренировка.

Ако си учител. Прекомерното доверие в AI има разпознаваем отпечатък: необичайно гладък и еднообразен изказ, различен от познатия говор на ученика; верни на звук, но нелогично комбинирани факти; ученик, който знае какво е написал, но не може да обясни защо. А най-показателният случай, споделен на срещата: цял клас цитира един и същ факт, който се оказва несъществуващ — всички са ползвали един и същи модел. И тук реакцията не е наказателна оценка, а въпросът „разкажи ми с твои думи как стигна до този извод” — проверката става упражнение по разсъждение. (По темата имаме и отделни материали: 6 начина да ползваш AI в час.)

Ако пишеш или изследваш. Проверявай всеки източник в базата, от която уж идва. И си намери втори човек, който разбира темата — да мине през фактите и литературата, преди текстът да тръгне нанякъде с твоето име отгоре.

А универсалният съвет, с който Калин завърши — нещото, което всеки може да направи още днес:

Следващия път, когато видиш нещо шокиращо, убедително или просто твърде гладко изказано — не питай „вярно ли е това?”. Замисли се „как мога да проверя дали е вярно?”. Малката разлика между двата въпроса е целият рефлекс, който трябва да си върнем.

Дискусията: от fact-check до Skynet

Част 3 от записа: въпросите, отговорите и закриването (~10 мин).

Въпросите след доклада удължиха вечерта в най-добрия смисъл. Акцентите:

• „Как проверяваш фактите — през колко модела ги пускаш?” Отговорът на Калин е отрезвяващ: най-надеждната му проверка си остава сядане с Google и преглед на ръка — с важната уговорка, че и Google вече връща като „достоверно” съдържание статии, самите те стъпили на неистини. За деликатни теми, под които стои името му: задълбочен анализ, съмнителните източници отпадат, а понякога търси и хартиен източник — „колкото и архаично да звучи”.
• „Gemini си прави fact-check всеки път.” Да — но моделът няма как да знае дали това, което проверката му връща, е истина. Срещу очевидно фабрикувани новини помага; гаранция за истинност не е.
• Халюцинации при дълъг разговор. Участник сподели наблюдение от практиката: след определен праг на запълване на контекстния прозорец моделът започва да си измисля все повече — само и само да върне „достоверен” отговор.
• AI детекторите грешат и в обратната посока. Реален случай от дискусията: изцяло човешки абзац, маркиран от инструмент за проверка като „писан с AI” — защото звучал твърде логично и подредено.
• „Подписът” на моделите не е скрити символи, а начинът, по който са подредени думите и изреченията. А покрай него — и по-прозаичните издайници: метаданните на файловете, броят ревизии на една презентация, внезапно перфектно коментираният код на студент, който никога не е писал коментари.
• И да, класиката: „Колко сме близо до Skynet?” Според Калин — далеч. Спи спокойно.

Какво да отнесеш у дома

• Увереният тон не е сигнал за истинност. AI звучи сигурно по дизайн — и когато е прав, и когато не е.
• Смени въпроса: не „вярно ли е?”, а „как да проверя дали е вярно?”.
• Източник от AI е източник за проверка. Форматирането, цитатите и DOI номерата не са доказателство.
• При децата не действай със забрани — тренирай рефлекса заедно, с игра: „нека проверим двамата”.
• За важните текстове — втори чифт очи от човек, който разбира темата.

Първият онлайн опит — и защо има значение

Три издания за три месеца: юни на живо (sold out), юли на живо, август — онлайн. Дистанционният формат смъква бариерата за всички, които не могат да стигнат до залата — и решава стария проблем на мийтъпите: който изпусне вечерта, вече не изпуска съдържанието. Записите от събитията ще живеят в YouTube канала на клуба.

Имаше и грапавини — онлайн форматът през Eventbrite се оказа по-капризен от очакваното и го казахме честно още на самата среща: следващия път ще бъдем по-добри. А самото следващо издание се надяваме да е отново на живо — с пай на масата.

Всичко, което се случва по темата AI в района, продължаваме да следим в голямата карта на AI инициативите във Велико Търново.

Как да хванеш следващото издание

• 🔔 Следи ни — ще обявим следващата дата и ще пуснем recap отново.
• 📺 Абонирай се за YouTube канала — там качваме записите от събитията.
• 🤝 Включи се — имаш тема, която искаш да чуеш, или нещо свое за показване? Формите за предложения и call for papers са в групата Programmers Club Veliko Tarnovo, а винаги можеш да ни пишеш и на hello@ai-vt.club. Калин беше първият ни онлайн лектор — следващият можеш да си ти.

Източници:

• Pie & AI: Veliko Tarnovo — First online event: Trust vs Verification (Eventbrite)
• Запис: част 1, част 2 и част 3 — YouTube канал на AI-VT Club
• DeepLearning.AI — Pie & AI