- Галлюцинации ИИ – это не проблема. Это ПРОБЛЕМИЩА!
- RAG – это то, что должно быть железобетонно в ИИ системе, которая завязана на качестве ответов
- Добавление в базу знаний должно иметь множественные фильтры – иначе мусорные данные будут генерировать мусорные данные
- Решает всё – контекст, промпт, модель, инструменты
- ИИ модель ничего не видит, не анализирует и не понимает, она просто генерирует
- Если её не окружить всем нужным, то она сгенерирует информационный мусор
- Есть прямая зависимость между качеством результатов и количеством потраченных токенов
- Буквально говоря, если хочешь сделать всесторонний анализ – жги токены
- Хочешь дополнительно валидировать – жги токены
- Нужна визуальная модель – жги токены
- В конце всё оказалось неработающей лажей (шанс 99%)? Начинай жечь токены по новой
- Т.е. буквально, чем лучше и глубже тебе нужны результаты, тем больше тебе придется потратить денег на токены
- Нет никакой магии с тем, что ИИ помогает срезать в экономическом смысле углы – токены стоят денег и токенов нужно много
- Исключение, это когда ИИ заменяет человека, который занимался “тупой” работой (например, первой линией тех. поддержки) – там экономия кратная
- ИИ нереально сильно влияет на мышление. Я это заметил с двух сторон
- Со стороны потребителя. Когда осознаешь, что можешь спросить у ИИ что-угодно и как угодно, то тут же появлятся соблазн спрашивать вообще о всём, минуя процесс осмысления вопроса
- Это очень сильно бьёт по критическому мышлению и ты буквально с каждым ИИ ответом становишься тупее (что парадоксально, правда?), но насмотренее
- Вдобавок появляется ощущение, что тебе дали всемогущий инструмент, который может закрыть все твои дыры в понимании (напомню, что у ИИ есть ПРОБЛЕМИЩА)
- Со стороны производителя. Тут прям целый шквал
- Во-первых, ИИ очень сильно бьёт по авторскому стилю и видению. Когда я сам итерирую текст, то он с каждой итерацией становится более изящным, сильным, одухотворенным, живым. Пока я итерирую сам, я испытываю муки творца, от чего становлюсь лучше. Когда я итерирую текст через ИИ, то текст с каждой итерацией становится все более плоским, беззубым и скучным. А мой авторский стиль начинает растворяться в статистически уравновешенном тексте
- Во-вторых, ИИ защищает автора там, где у него нет экспертности. Т.е. вместо того, чтобы, например, человеку научиться яснее и ярче излагать сложные идеи, он с помощью ИИ просто напускает смыслового тумана. Или если результаты плохие, то ИИ подаст их как революционные или опять же напустит тумана. В общем, где юзер будет плох, там ИИ будет маскировать проблемы или будет имитировать хорошесть
- Очень хорошо это стало заметно в статьях на Habr
- Раньше там статьи были кучерявыми, но за ними был виден человек и то, как этот человек пытается передать свои опыт и знания
- Сейчас 99% статей выглядят одинаково… одинаково безвкусными и неотличимыми от того, что DeepSeek генерирует за 10 секунд
- В итоге я выкинул просто тьму подписок из своей RSS-ленты
- И кажется я вывел эффективные правила для того как почистить RSS-подписки
-
- К чёрту любые новости. Я думал, что выкинул их ещё давно. Но нет. Оказывается я был подписан на кучу авторов, которые только что и делают, так это рассказывают про новости. В общем в топку их. О главном я узнаю от топов в моей индустрии или от коллег
-
- Нишевые авторы это просто сказка. Я думал, что русскоязычное пространство в этом смысле на дне. Но я был не прав. На Substack есть не только мною глубоко уважаемый qnnnp, но и потрясная Оля Морозова и куча других авторов, которые стильно пишут про музыку, про историю и в принципе про мир
-
- Источник/автор должен создавать добавочную стоимость. Честно говоря, меня уже в край утомили источники, которые показывают как кнопки нажимать. Я умею читать Readme, доку, первоисточники. Покажи, мне что ты сделал сверх того, что я мог бы узнать и без тебя. Не можешь? Отписка.
-
- Если автор делает что-то стильно, но пусть и в сумме своей бессмысленно, я его оставлю. Есть авторы, которые мне нравятся просто своей эстетикой, они меня качают и я не буду их выкидывать просто потому что они не дают мне прямой пользы
- У ИИ просто нереально высокий уровень адаптирумости к запросу юзера и очень высокий уровень к способности объяснять
- Очень хорошо я это прочувствал, когда начал читать научные статьи с ИИ
- Раньше на глубокое чтение хорошей статьи могла уйти неделя и даже больше
- Сейчас ИИ помогает мне разбирать статью за день-два-три
- Особенность в том, что ты можешь разбирать статью, реализуя любые паттерны за очень быстрое время
- Например, можно разбирать статью по слоям (широкий контекст, конкретная проблема, что непосредственно сделано в статье)
- Можно зайти в статью с конца (запросить саммари)
- Можно зайти в статью через последовательное чтение, где каждый трудный момент, ты просишь прояснить, разобрать на составляющие, привести примеры или хорошие метафоры. Далее можешь попросить сделать тест, сгенерировать карточки и пытаться разобраться не через подробное объяснение, а через запоминание
- Можно попросить ИИ сделать модель на основе статьи, потыкать её и только потом начать читать и разбираться
- Можешь вообще сначала пообщаться с моделью и выдать всё, что знаешь, а потом она сама адаптирует своё объяснение статьи через то, что ты уже понимаешь
- Можно вообще по минимуму разбирать статью, а сделать скрин, отправить его Copilot или Cursor и сказать, чтобы он сразу реализовал это. А далее уже разбираться с имплементацией, тестированием, документацией и т.д.,а не с академизмом
- В общем можно запросить у ИИ что угодно и это заметным образом снизит порог
- Тут даже будет не очень важно, что ИИ будет галлюцинировать, т.к. ты в любом случае полученные понимания валидируешь через статью, через код, тестирование, модели и т.д. – это тоже часть изучения
- Есть забавное противоречие, что где-то ИИ помогает становиться умнее (за счет снижения порога и подстраивания), а где-то по факту делает тебя тупее, потому что ты должен был подумать самостоятельно
- Не знаю как это противоречие разрешить
- Может, это работает так же, как с ручкой и бумагой. Для большинства это верный способ разобраться в чём-то сложном, а для профессионала это скорее медленный интерфейс, который напрямую вредит процессу реализации и без того натренированного мышления