На информационном ресурсе применяются рекомендательные технологии (информационные технологии предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей сети "Интернет", находящихся на территории Российской Федерации)

TRENDYMEN

39 559 подписчиков

Свежие комментарии

  • РОМАН Молчанов
    Капитализм-это жопа,ещё в институте проходили,учась в Советском Союзе !!! Великом и добром !«Отдыхаешь — терп...
  • Геннадий Исаков
    А чего жалуетесь? Хотели капитализма, знали кого выбираете?  - получите.«Отдыхаешь — терп...
  • Геннадий Исаков
    И где же бурный рост уровня жизни, обещанный приватизаторами, менявших  социалистическую систему, вводившей даже бесп...В России начали п...

Ученые: искусственный интеллект страдает от «тревоги» из-за эмоционального контента, все как у людей

Искусственный интеллект все больше напоминает человека — новое исследование показало, что языковые модели, такие как GPT-4, могут проявлять «тревожность» при обработке эмоционально тяжелых тем. Когда ИИ сталкивается с негативными историями, например, о катастрофах или насилии, он начинает «уставать», грубить и даже отторгать информацию.

 

Учкные из Университета Цюриха провели эксперимент: они кормили GPT-4 тревожным контентом и сравнивали реакцию с нейтральным текстом, например, инструкцией по эксплуатации пылесоса.

Чтобы «успокоить» ИИ, исследователи применили метод, похожий на психологическую терапию: добавляли в историю чата позитивные утверждения и отвлекающие инструкции. Это помогло снизить уровень тревожности, но не вернуло его к исходному состоянию.  

По мнению специалистов, эти данные могут быть полезны при создании ИИ для медицины и психотерапии. Однако пока неясно, распространяется ли подобный эффект на другие языковые модели.  

В оригинале статьи есть видео с подробностями. Его можно посмотреть по клику на Источник.

Ссылка на первоисточник
наверх