ИИ: под капака — 5 напреднали понятия, които променят употребата ви

Учебна цел

След като прочетете тази статия, ще разбирате пет понятия от устройството на ИИ асистентите (ученето чрез настройване на милиарди параметри, токените, ролята на данните за обучение, контекстния прозорец и вероятностното генериране), без нито един ред код, и ще знаете точно какво променя всяко от тях в начина, по който ги използвате.

Ситуация, която може би ще разпознаете

Използвате ИИ асистент от няколко месеца. Усвоили сте основните рефлекси: проверка на фактите, защита на данните, прецизно формулиране. Но някои поведения продължават да ви озадачават: защо дава два различни отговора на един и същ въпрос? Защо „забравя" казаното двадесет съобщения по-рано? Защо е блестящ по една тема и странно слаб по друга, понякога по-проста?

Тези поведения не са дефекти: те са преки последици от начина, по който са изградени тези системи. Да ги разберете (без да ставате програмист) преобразява употребата ви: преставате да търпите странностите и започвате да ги предвиждате.

Петте понятия

Понятие 1 — Моделът не е база данни: той е настройка на милиарди копчета

Един ИИ модел е в основата си огромна математическа функция, пълна с параметри: представете си милиарди малки копчета за настройка. По време на обучението му се показват огромни количества текст, а механизъм за корекция се завърта милиони пъти: моделът произвежда изход, измерва се отклонението от очакваното и всяко копче се завърта леко в посоката, която намалява грешката. Повторен в огромен мащаб, този процес поражда обща способност за произвеждане на свързан език.

Какво променя това за вас: няма никакъв файл някъде, от който въпросът ви да извлича „отговора". Моделът не прави справка с нищо: той генерира, на базата на закономерности, запаметени в настройките му. Затова може да предаде погрешно добре известен факт, да смеси две съседни теми или да измисли правдоподобен детайл: той възстановява, не преписва. Проверката на важните факти (рефлекс № 1 от основите) произтича пряко от тази архитектура.

Понятие 2 — Той не чете думи: чете токени

Преди да обработи текста ви, моделът го нарязва на токени: фрагменти, които понякога отговарят на цяла дума, понякога на част от дума, понякога на препинателен знак. „Здравей" може да е един токен; рядка или измислена дума ще бъде нарязана на няколко.

Какво променя това за вас: това обяснява цяло семейство изненадващи слабости. Броенето на буквите в дума, анаграмите, игрите с правописа: моделът не „вижда" отделните букви, а фрагменти, оттам грешки в задачи, които дете решава. Същото важи за много редките думи, необичайните собствени имена и тясната техническа лексика: лошо нарязани, лошо овладени. Практическият рефлекс: когато отговорът се обърка около конкретен термин, преформулирайте с по-обичайни думи, променяте нарязването, а често и резултата.

Понятие 3 — Данните за обучение определят тавана — и пристрастията

„Посредствени данни: посредствени резултати" не е лозунг, а структурно ограничение. Всичко, което моделът умее, идва от данните му за обучение, и той наследява от тях три свойства:

  • Изобилното в данните се владее добре; рядкото: зле. Оттам парадоксът, който сте забелязали: отличен по масова тема, крехък във вашата професионална ниша. Точно по редките теми халюцинациите се умножават, със същата увереност.
  • Скорошното липсва: данните спират на определена дата (понятието за гранична дата от основите).
  • Пристрастията на човешките текстове стават пристрастия на модела. Стереотипи, доминиращи гледни точки, дисбаланси в представителството от изходните текстове се пренасят (смекчени или не) в отговорите.

Какво променя това за вас: калибрирайте доверието си според рядкостта на темата. Колкото по-тясна е тя, толкова по-наложителна е проверката. И помнете, че „стандартният" отговор на ИИ отразява мнозинствената гледна точка на данните му, а не неутрална истина: по обществените теми изрично поискайте и другите перспективи.

Понятие 4 — Контекстният прозорец: защо „забравя"

Моделът няма памет в човешкия смисъл. При всяко съобщение той препрочита целия разговор (пълната ви история му се изпраща наново) и генерира продължението. Но това препрочитане има максимален размер: контекстния прозорец. Когато разговорът стане много дълъг, началото излиза от прозореца или тежи по-малко при генерирането.

Какво променя това за вас: три конкретни навика. Един разговор = една тема: започвайте нов разговор при нова задача, вместо да трупате. Припомняйте същественото, когато обменът се проточи („за напомняне: работим върху X с ограничение Y"). А при дълги документи не искайте всичко наведнъж: работете по раздели. Това, което приличаше на разсеяност, е механично ограничение, и се заобикаля отлично, щом го познавате.

Понятие 5 — Машина за вероятности: защо два отговора се различават

Моделът генерира отговора си парче по парче, като на всяка стъпка избира измежду най-вероятните продължения, с доза преднамерена случайност, регулирана от това, което създателите наричат „температура". Две преки последици: същият въпрос може да роди два различни отговора, а формулировката на искането ви мести вероятностите, и следователно резултата.

Зад това стои и по-дълбок урок: една ИИ система оптимизира мярката, която ѝ е зададена, а не намерението ви. Класическият пример от машинното обучение: при данни, в които 95 % от случаите са „положителни", модел, който винаги отговаря „положително", постига 95 % точност, отличен резултат, напълно безполезна система. Създателите по цял ден подбират правилните мерки; вие като потребител виждате ефекта: моделът се цели в правдоподобното и удовлетворяващото средно, не във вярното-за-вас.

Какво променя това за вас: да зададете отново важен въпрос или да го преформулирате от два ъгъла не е каприз. Това е легитимна стратегия за „вземане на проби". Ако две формулировки дадат несъвместими отговори, току-що сте открили зона на несигурност на модела: точно там трябва да проверите другаде.

Кое е наистина важното

1. Обучен генератор, не енциклопедия. Всички странни поведения (халюцинации, забравяне, вариации) произтичат от тази единствена идея. Тя замества с предимство десетки наизустени правила.

2. Контекстът е лост № 1. Контекстен прозорец, формулировка, разделяне на части: това, което влагате в разговора, оформя това, което излиза, много повече от всяка настройка.

3. Вариацията е информация. Отговори, които се променят от формулировка на формулировка, сигнализират несигурност на модела. Използвайте я като детектор: където варира, проверявайте.

Прост метод: 3 експеримента, без ред код

Най-добрият начин да затвърдите тези понятия е да ги видите сами, потребителският еквивалент на инженерското „счупи го нарочно":

Експеримент 1 — Прозорецът. В вече дълъг разговор поискайте: „Припомни ми точно първия ми въпрос." Наблюдавайте какво се връща, и какво се е разтворило. Ще видите границата на контекста в действие.

Експеримент 2 — Вариацията. Задайте три пъти един и същ нетривиален фактологичен въпрос (нови разговори), после четвърти път: преформулиран. Сравнете: стабилното вероятно е стабилно; променящото се, за проверка.

Експеримент 3 — Таванът на данните. Задайте въпрос по много масова тема, после равностоен по трудност въпрос от професионалната ви ниша. Проверете и двата отговора: ще установите, че увереността на тона не се променя, окончателната демонстрация, че „увереността не е доказателство".

Какво означава „достатъчно добре":

  • Начинаещ: можете да обясните със свои думи защо ИИ не е база данни и започвате нов разговор при всяка нова тема
  • Средно ниво: преформулирате, когато термин блокира, калибрирате доверието според рядкостта на темата и използвате вариацията като детектор на несигурност
  • Напреднал (умеете да обясните на друг човек петте понятия и практическите им последици) истинският тест за разбиране

Една честна бележка

Тази статия признава опростяванията си: реалното функциониране на тези системи е предмет на активни изследвания, а самите специалисти още спорят какво означава „разбиране" за един модел. Но петте понятия тук са структурни: ще останат валидни при всички бъдещи модели, защото описват семейството архитектури, а не конкретен продукт.

А ако това пътуване под капака ви е събудило желание да стигнете до кода (да построите сами малка мрежа, да обучите първи модел) това е отличен учебен проект. Просто не е предпоставка: всичко по-горе стига, за да сте забележимо по-трезв потребител от средния.