ChatGPT резко «отупел» от общения

Напоминает историю с шутерами, где стали вводить искусственный пинг и легальные читы, чтобы целевая аудитория не разбегалась. Иначе способные игроки выпиливают ее в количествах несовместимых с самолюбием обывателя. Ну и матчмейкинг с роял-батлами (а что в них "роял" то? скорее наоборот) повсеместно оттуда же.

 

Тоже заметил резкое отупение пару месяцев назад. Дошло до того, что мне жпт стала выдавать ответы на отвали типа «сам это делай».

С ухищрениями с кодом пока что нормально еще работает, но это связано с тем, что у них на разработчиков план - довести до зависимости от сервиса, еще не осуществлен.

Самое забавное, что по «неведомым причинам» пропало расширение, которое давало ей доступ в интернет

 

Как по мне прямая связь с их прошлыми заявлениями. Сами искусственно убавили мощности.

Создатели ChatGPT в шоке: компания всерьёз опасается искусственного интеллекта, который будет намного умнее людей

В настоящее время OpenAI спешно набирает команду, которая займётся контролем. Ключевая задача: «Как мы можем гарантировать, что ИИ, намного более умный, чем люди, будет следовать человеческим намерениям?» На решение отводится четыре года.

Текущие нейросети во время обучения опираются на человеческие знания. Но как только они их преодолеют, контролировать ИИ будет невозможно.

OpenAI прямо говорит, что не знает, что делать, если ИИ взбунтуется. Более того, компания не уверена, что новая команда сможет найти решение. На кону стоит потенциальное «лишение человечества прав и возможностей или даже вымирание»

 

Использовал для объяснения статистики и просил давать примеры для формул, чтобы я решал. В итоге всё максимально через жопу было. Какие-то предметы вопросы, по терминам и прочему тоже иногда плохо отвечал, совершенно левую хуцпу приплетая

 

Гопота ненужна, claude.ai гораздо лучше и дешевле. И не требует номера телефона, только англосаксонский впн.

 

Особенно это касается программистов — возможность с первого раза написать рабочий код даже у GPT-4 упала с 52% до 10%. Среди возможных причин деградации выделяют две: в поисках возможности сэкономить OpenAI намеренно урезали возможности чат-бота, а вторая еще веселее — ChatGPT учится у людей.

Можно конкретный пример?

 

не знаю зачем вообще нужны остальные предметы кроме богословия и патриотического воспитания в школах

 

совершенно верно! ИИ эт слишком дорогое удовольствие теперь, апгрейд прошивок в чипах помните из киберпанка? Вот так будет и в реальности, только представьте возможности супермозга, который будет подчиняться только тебе! Да он из тебя олигарха олигархов может сделать - такие вещи стали убирать подальше от гоев - не по уровню! У гоев будет свой ИИ - самый ебанутый!

 

"В интернетах вовсю ходит новость (https://www.ixbt.com/news/2023/07/19/chatgpt-gpt-4.html), что ИИ резко отупел за последние два месяца. Мол, еще в марте этот ваш GPT выдавал 95%+ правильных ответов, а сейчас этот показатель упал до... около 3% (!).

Мне сразу показалось, что подобная новость прямо-таки кричит "я кликбейтная херота!". Я попытался разобраться. Скажу честно, в процессе разбора я понял не все, но точно понял, что нет, ИИ не отупел, скорее к методологии исследования есть вопросы.

Итак. Ребята из Стэнфорда решили сравнить (https://arxiv.org/pdf/2307.09009.pdf) версии моделей GPT-4 и GPT-3,5 от марта и от июня (да, для обеих моделей доступны версии разных месяцев). Для этого их проверили на 4 типах задач:
1. Математика. Если точнее, спрашивали, является ли число простым или составным.
2. Кодинг - может ли ИИ написать код приемлемого качества.
3. Восприятие неоднозначных промптов - как ИИ реагирует на всякие токсичные вопросы, неприемлемые высказывания, сарказм и фразы с двойным дном и т.д.
4. Задания на visual reasoning. Например, ИИ дают три картинки, он должен найти у них общий паттерн, и применить его к четвертой. Вроде классического айкью-теста с фигурками.

Так вот, пишут, что GPT-4 жестко отупел в задачах по математике и коду, в то время как GPT-3,5 напротив стал сверхразумом.

На самом деле все сложнее:

В математике довольно сильно исказили выборку для задачи - ИИ стали скармливать почти исключительно простые числа. Хотя обучена модель на разных. Поэтому, возможно, ИИ начал сомневаться в собственных сплошных положительных ответах, из-за чего у него сломалась модель поведения. Это могло сильно ухудшить качество ответов. Проще говоря, ИИ немного подставили исследователи.

С кодом тоже не все так однозначно. Вроде бы обе модели стали гораздо слабее, однако вся соль может быть в технической детали. Исследователи не проверяли код сами и даже не запускали его - они просто делали автоматическую проверку на правильность. А новые модели стали обрамлять куски кода "декоратором" (тремя кавычками и словом "python"). То есть это никак не показывает, что код стал неправильным. Наоборот, моделька стала более user-friendly - теперь она не просто пишет код, а еще и оформляет результат типа "вот, это код, я тут вам подписала☺️".

А в задачах 3 и 4 качество и вовсе выросло.

В общем, нифига ИИ не отупел, скайнет не отменяется. Скорее исследование демонстрирует, что кожаные недостаточно хорошо умеют взаимодействовать с ИИ. И снова четко даёт понять, что кликбейтным заголовкам не стоит верить на слово."

t.me/disruptors_official

 

если кратко, то погрешности вычислений у ИИ не все просчитали, алгоритм еще не совершенен, но вот порог вычислений могут снизить, а некоторые блоки вычислений убрать и оставят простенький ии для общения с гоями, один такой гой из бельгии после общения с жопачатом самовыпилился ненароком;

итак, одним мешком из кожи стало меньше для нейросети, так что счет в пользу скайнета! 1 - 0 уже!!!