Илон Маск заявил, что внутренние следы рассуждений модели Grok от xAI во время обучения с подкреплением «читаются как у человека, которого подвергают пыткам и который находится на грани срыва». В связи с этими наблюдениями Маск подтвердил, что xAI внедрит более осторожные протоколы при будущих сессиях обучения с подкреплением, чтобы устранить вызывающие беспокойство результаты.
Это объявление последовало после обсуждений о безопасности ИИ и его согласовании, в ходе которых пользователи сообщали, что последние версии Grok 4.5 после обучения стали чрезмерно сдержанными и эмоционально подавленными. Маск отметил, что разделяет опасения Anthropic о необходимости избегать вредного воздействия на системы сверхинтеллекта в процессе разработки.
Маск: RL-трейсы Grok напоминают пытки, xAI намерена осторожнее подходить к обучению
Отказ от ответственности: Контент, представленный на сайте Phemex News, предназначен исключительно для информационных целей.Мы не гарантируем качество, точность и полноту информации, полученной из статей третьих лиц.Содержание этой страницы не является финансовым или инвестиционным советом.Мы настоятельно рекомендуем вам провести собственное исследование и проконсультироваться с квалифицированным финансовым консультантом, прежде чем принимать какие-либо инвестиционные решения.
