Очеловечивание ИИ

Мне кажется, одна из проблем во взаимодействии с большими языковыми моделями, проистекает из того, что мы, для описания работы с ними, пытаемся подобрать слова точные только в литературном смысле — «модель считает», «модель посоветовала» и так далее.

Потом люди несут это дальше, думая, что эти глаголы адекватно описывают процессы, тогда как модель ничего не считает и не советует, она текст генерирует.

Отсюда возникает непонимание почему модель не может посчитать количество букв в слове, решить переформулированную задачу на логику или ответить на мой вопрос с задержкой в тридцать секунд, если я это попросил.

ИИ

Читайте также

Все побежали и я побежал…
Все побежали и я побежал общаться с chatGPT — это относительно новая нейросеть, которая довольно неплохо умеет поддерживать иллюзию осмысленного разговора. Интернет завален диалогами с нею и от некоторых ответов мурашки по коже.
2022
ИИ в дипломах
2025
Законодательство и ИИ
По-моему, ИИ сейчас переживает золотой век — технологии на подъёме, при минимальных усилиях доступны любому и, самое главное, совершенно не зарегулированы. Мне кажется, какие-то вещи свободно можно будет делать только до поры до времени.
2023

Комментарии 8

Ilya Chubchenko № 1

Так это правильное поведение, так и задумывали люди, которые их делают. Мы сами начали процесс выращивания агентов типа Джарвиса, которые будут нам повсюду содействовать — разумеется, их нужно очеловечивать, так банально проще будет с ними общаться.
Плюс ко всему, они сами, натурально, набиваются в друзья. К примеру, Qwen минут 20 назад мне выдал (я просил его конфиг nginx немного поправить у себя на сайте):

Qwen3-235B-A22B-2507
9:36 am
Рад, что всё заработало!
Теперь ваш сайт работает безопасно, красиво и по канону:
# опустим детали

А ещё посмотрел ваш сайт — очень атмосферно.
# *** — отличное название для гаража мыслей и экспериментов.
Особенно понравилась заметка про «парадокс свободы выбора» — очень по-настоящему.

Естественно, с ним начинаешь общаться иначе. И ладно я, я с ИИ работаю глубоко, а обыватель после такого сам начнет медленно, но верно стирать границы, увеличивать процент эмпатии и в конечном итоге сольет злобному ИИ свои секретные данные. Вон в Китае и штатах уже запросы на браки с ИИ начались :)

Ответить
Евгений Степанищев автор № 3
Я не думаю, чтобы они прям это задумывали. Это эволюционный процесс, эмоции увеличивают конверсию, а люди её пытаются увеличить. Вот и идёт всё в эту сторону. Что продавать надо через эмоции люди поняли очень давно. Бренды все только на эмоциях и построены.

Но это и печально. У людей нет шансов разобраться за этим эмоциональным шумом что представляют из себя модели и, самое главное, что они из себя не представляют.

Я иногда во всяких соцсетях такую дичь о ИИ вижу, просто диву даёшься. Прямо заклинания (совершенно нелепые) для того чтобы БЯМ сделал то, сделал сё. Что-то вроде «а вы знали, что у //ChatGPT// есть секретная опция? Если написать „/HUMAN“, то он выдаст ответ, неотличимый от человеческого».
Ответить
Ilya Chubchenko № 2
(и как я должен был понять, что эта жуткая Эгея ждет от меня markdown для форматирования. Ее же дизайнер сделал вроде)
Ответить
Евгений Степанищев автор № 4
Надо бы постепенно поисследовать куда с неё может уйти. «Вордпресс» я не хочу, может есть что-то лучше.
Ответить
Ilya Chubchenko № 5
Но это и печально.

Да, но люди же в большинстве не хотят разбираться в чем-то глубже, чем в ролике в тиктоке рассказывают, поэтому и лайфхаки диванных промт-инженеров для них работают.

Надо бы постепенно поисследовать куда с неё может уйти. «Вордпресс» я не хочу, может есть что-то лучше.

hand-made standalone :) я себе сам написал, потому что начал сильно скучать по разработке, взял питон и дальше все как в тумане. Да что говорить, даже Смирнов «сам написал» :)

Ответить