«Конец человеческой расы»: тревожное предсказание Хокинга об ИИ начало сбываться
Всемирно известный физик Стивен Хокинг за несколько лет до своей смерти сделал пугающие заявления о машинном разуме. Тогда их никто не воспринимал всерьез. Сейчас, когда у нас появились нейросети, его слова не кажутся смешными. О том, что же говорил легендарный Хокинг, сообщает «Лайф».
Тревожное предсказание Стивена Хокинга о роковой ошибке человечества с ИИ
В 2014 году вышел научно-фантастический фильм Transcendence (в российском прокате — «Превосходство») с Джонни Деппом и Морганом Фрименом. Тогда Стивен Хокинг обратил внимание на сюжет в этой ленте: там ученые воодушевленно пытаются создать совершенный искусственный интеллект, а им мешают радикально настроенные террористы — противники технологического прогресса. Изначально разработчиками движут добрые мысли об утопическом будущем безграничных возможностей в медицине, науке и так далее, но в какой-то момент обнаруживается, что машинный разум позволяет внедряться в сознание человека и манипулировать им, и возникают, наконец, сомнения в том, что же, собственно, человечество себе породило.
Стивен Хокинг и его коллеги из Калифорнийского университета и Массачусетского технологического института тогда написали в Independent, что картина создает обманчивое представление об угрозе ИИ как о чем-то воображаемом, как просто об источнике вдохновения для фантастов, — сообщает pronedra.ru.
«Это было бы ошибкой, и, возможно, нашей худшей ошибкой в истории», — писали авторы статьи.
Ученые говорили, что признают огромную потенциальную пользу развитого машинного разума, но призывали одновременно держать в голове и то, что вместе с этой потенциальной пользой вполне реально будут расти и огромные риски. Исследователи предупреждали, что в первую очередь эти риски проявятся в использовании искусственного интеллекта в военных целях — оружие с ИИ дает большое преимущество.
«В ближайшей перспективе по всему миру вооруженные силы рассматривают вопрос внедрения автономных систем вооружения, которые способны самостоятельно выбирать и поражать цели», — отметили ученые.
Конец человеческой расы
Стивена Хокинга не зря называли одним из умнейших людей современности. Всемирно известный физик дал интервью ВВС, где прямым текстом сказал, что усовершенствование ИИ может оказаться самоубийством для человека.
«Думаю, что развитие полного (совершенного) искусственного интеллекта может означать конец человеческой расы», — говорил Хокинг.
По мнению ученого, в тот момент, когда ИИ научится развиваться и улучшать себя сам, он начнет это делать с немыслимой скоростью, абсолютно не идущей ни в какое сравнение с медлительной эволюцией человека. «Люди, которые ограничены медленной биологической эволюцией, не смогут конкурировать и будут вытеснены», — заявил тогда Хокинг.
Так что мы имеем сейчас? Во всем мире активно развивают нейросети, которые уже способны делать большую часть работы за человека. В скором времени появятся машины, которые обучены ИИ, они будут ездить без водителей. Все это будет развиваться и дальше, и человек может не понадобиться. Ученые считают, что словам Хокинга многие люди не поверили, и это очень зря, если бы его тогда слушали, то сейчас бы не было такой ситуации.
Обсудим?
Смотрите также:
