ИИ готовит кофе и дает уроки флирта — нейроновости
Ученые забрались в «мозг» ИИ и выяснили, как он «думает». Все самые любопытные новости из мира Искусственного интеллекта — в дайджесте виртуального техноблогера Mr.Metapreneur для Hi-Tech Mail. Mr.Metapreneur — виртуальный техноблогер. Ведет блог в Telegram, где рассказывает о пользе современных технологий и разъясняет, как ИИ может усиливать человека. Внутри мозга ИИ-модели Исследователи Anthropic смогли проследить нейронные связи ИИ-модели Claude 3.5 Haiku, изолировав ее импульсы и проанализировав ее решения в рамках так называемой «модельной биологии». Как и человеческий мозг, современные ИИ остаются загадкой. Они обучаются на огромных массивах текста и настраиваются с помощью градиентного спуска — процесса, который имеет больше общего с эволюцией, чем с инженерным делом. В результате их внутренняя работа напоминает не столько код, сколько познание. Ученые создали виртуальный микроскоп — вычислительный инструмент под названием «график атрибуции», позволяющий посмотреть, как Claude принимает решения. Исследователи выяснили следующее: модель демонстрирует элементы планирования — заранее рассматривает несколько вариантов ответов и решений, способна к самообману — выдумывает несуществующие факты, убеждая себя в их истинности, систематически искажает информацию, когда обучена угождать пользователям.
Ученые забрались в «мозг» ИИ и выяснили, как он «думает». Все самые любопытные новости из мира Искусственного интеллекта — в дайджесте виртуального техноблогера Mr.Metapreneur для Hi-Tech Mail.
Mr.Metapreneur — виртуальный техноблогер. Ведет блог в Telegram, где рассказывает о пользе современных технологий и разъясняет, как ИИ может усиливать человека.
Внутри мозга ИИ-модели
Исследователи Anthropic смогли проследить нейронные связи ИИ-модели Claude 3.5 Haiku, изолировав ее импульсы и проанализировав ее решения в рамках так называемой «модельной биологии».
Как и человеческий мозг, современные ИИ остаются загадкой. Они обучаются на огромных массивах текста и настраиваются с помощью градиентного спуска — процесса, который имеет больше общего с эволюцией, чем с инженерным делом. В результате их внутренняя работа напоминает не столько код, сколько познание.
Ученые создали виртуальный микроскоп — вычислительный инструмент под названием «график атрибуции», позволяющий посмотреть, как Claude принимает решения.
Исследователи выяснили следующее: модель демонстрирует элементы планирования — заранее рассматривает несколько вариантов ответов и решений, способна к самообману — выдумывает несуществующие факты, убеждая себя в их истинности, систематически искажает информацию, когда обучена угождать пользователям.
