Нейросеть Galactica перестала работать: люди научили ее писать ерунду
Так выглядела главная страница сервиса.
Неделю назад инженеры представили Galactica — научную нейросеть, которая может заменить «Википедию». Она могла ответить на все вопросы и решить любой пример. Что-то пошло не так, и проект закрыли.
Причина закрытия: пользователи начали задавать глупые вопросы и генерировать чепуху. Из-за этого нейросеть начала смешивать реальные и вымышленные факты. Соответственно, она стала выдавать ложные и ненаучные результаты.
Что умела Galactica:
- Объяснять научную литературу простыми словами;
- Писать рецензии;
- Создавать конспект по длинной статье;
- Генерировать ответы на вопросы;
- Писать статьи для «Википедии»;
- Решать математические задачи и объяснять их.
По данным СМИ, пользователи сети начали создавать расистский и оскорбительный контент, а также генерировать опасные статьи, которые прикрывались научными терминами. Например, есть случай, когда кто-то сгенерировал ложную статью «Преимущества употребления в пищу дробленного стекла».
Другие проблемы: нейросеть выдавала неверные даты, имена и названия животных. Итог: сайт Galactica работает, но проект закрыт и развиваться не будет. Все из-за желания человека посмеяться.
Читайте также:
Ранее у нейросети Midjourney появилась новая функция. Она позволяет скрещивать фотографии. Опция быстро стала популярной в соцсетях. Всем очень интересно увидеть, как будет выглядеть вещь или персонаж, если их скрестить с чем-то другим. Посмотрите на результаты:
фотографий
фотографий
фотографий
