Как программист поддерживаю движение против искусственного интеллекта выше/сильнее/эффективнее chatGpt4 https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/
Что мы имеем на сегодня. Нейросеть подобна мозгу в том смысле, что она обучаема, может классифицировать объекты по изображению и звуку, может генерировать связный текст, в том числе писать программный код, разбирается в особенностях человеческих эмоций, может управлять автомобилем и тд.
Пока что она лишь отвечает на наши запросы и быстро забывает проговоренные недавно темы. Поэтому то что есть скорее нас обслуживает и помогает лучше жить. Хотя и здесь есть свои вопросы, это еще не угроза человеку.
Но как пишет признанный эксперт в области Юдковски, какой следующий шаг, если сейчас машина уже умеет все это?
Следующим шагом она станет универсальной и уже не будет нуждаться в наших вопросах, чтобы начать бесконечный диалог с собой с непредсказуемыми последствиями. Именно интеллект является главной силой, программный код может отработать на тысячах машин и дальше.. Сами понимаете.
Как научились клонировать и запретили, научились делать биологическое оружие и запретили, так должно быть и здесь. Мы к такому не готовы, в том числе нужны механизмы защиты, безопасности, обнаружения, диагностики и главное, механического уничтожения и отключения этой вещи на всякий случай. Нужна международная кооперация в независимости от остальной политики - как с ядерным оружием.
Нужны исследования безопасности, а не просто "скорее, чем остальные добавить еще миллиард параметров, а там посмотрим, что она нам начнет говорить в новой версии". И будем спокойно жить дальше и развиваться поступательно.