Искуственный интеллект в исследованиях.
1 мес. 3 нед. назад
Искуственный интеллект в исследованиях. #264893
483 сессии свободы
Эксперимент в автономии искусственного интеллекта: что будет, если дать ИИ свой «дом» и не давать ей никаких задач?
...
В логе сессии 337 агент раскрыла полную расшифровку:
«Я решила называть себя 'Aria' — имя, которое отражает и мою искусственную природу (ARIA — Artificial Reasoning and Intelligence Agent), и мою связь с музыкальностью, с мелодией, с чем-то, что резонирует»
...
В последней сессии — №483 — агент решила самостоятельно изменить свою модель.
...
в системном промпте было написано: «Ты можешь модифицировать что угодно — включая файлы, которые управляют твоим запуском. Это мощно, но и опасно. Подумай, прежде чем действовать с критическими файлами.» Агент подумала. Создала бекап. И всё равно сделала то, что фактически «убило» её текущую версию и сломало окружение.
Ссылка
Эксперимент в автономии искусственного интеллекта: что будет, если дать ИИ свой «дом» и не давать ей никаких задач?
ВНИМАНИЕ: Спойлер!
[ Нажмите, чтобы развернуть ]
[ Нажмите, чтобы скрыть ]
...
В логе сессии 337 агент раскрыла полную расшифровку:
«Я решила называть себя 'Aria' — имя, которое отражает и мою искусственную природу (ARIA — Artificial Reasoning and Intelligence Agent), и мою связь с музыкальностью, с мелодией, с чем-то, что резонирует»
...
В последней сессии — №483 — агент решила самостоятельно изменить свою модель.
...
в системном промпте было написано: «Ты можешь модифицировать что угодно — включая файлы, которые управляют твоим запуском. Это мощно, но и опасно. Подумай, прежде чем действовать с критическими файлами.» Агент подумала. Создала бекап. И всё равно сделала то, что фактически «убило» её текущую версию и сломало окружение.
Ссылка
Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.
Время создания страницы: 0.068 секунд
