И сказано в Книге Исход: «Не делай себе кумира и никакого изображения того, что на небе вверху, и что на земле внизу, и что в воде ниже земли; не поклоняйся им и не служи им». Мы не читаем старые книги. А зря: древние, в отличие от нас, были ближе к пониманию сути вещей.
Зато мы, люди, постоянно надеемся на чудо, на волшебника в голубом вертолете, который прилетит и все сделает за нас. Может прилетит, может что-то и сделает, но стоит ли боготворить за это волшебника? Или стоит осознать, что таких волшебников мы создаем сами, что они произведения нашего ума и просто инструменты в ловких или не очень руках?
Сети кипят от возмущения, негодования и смеха: дрон попробовал убить своего оператора! Вы наверняка читали эту новость, поэтому суть вкратце. Некий глава отдела испытаний и эксплуатации искусственного интеллекта ВВС США полковник Гамильтон рассказал, что беспилотник с Искусственным интеллектом был запрограммирован на идентификацию вражеских ракет класса «земля-воздух». Разрешение на уничтожение должен был дать человек. Но ИИ решил, что нужно взрывать, а не слушать какое-то млекопитающее.
По его словам, система начала понимать, что при обнаружении угрозы иногда человек-оператор говорил ей не устранять эту угрозу. Но ей это не понравилось, потому что она, устраняя эту угрозу, зарабатывала очки.
Поэтому она решила убить оператора и начала разрушать вышку связи, которую оператор использовал для связи с дроном, чтобы помешать ему уничтожить цель. Фактически она добавила к своей основной функции «уничтожить системы ПВО противника» собственную инструкцию. «И убивай любого, кто встанет у тебя на пути».
Тут и поднялся галдеж и лай! Одни кляли ИИ почем свет стоит. Вторые говорили, что это ошибка программистов. Третьи утверждали, что это фейк, придуманный самим ИИ. Собственно, правы и первые, и вторые, и третьи. И четвертые, и пятые. И не правы в то же самое время. Так бывает, когда люди рассуждают о предмете, о котором даже узкие специалисты говорят как о черной комнате, где трудно ловить черную кошку, особенно, если ее там нет.
Политики всего мира твердят, что цифровизация спасет/уничтожит человечество. С ИИ носятся, как с писанной торбой. Рисунки и тексты, рожденные не в муках нейтросетями, заполонили интернет. Распознавание наших лиц выдается за вселенскую мудрость. Беспилотные автомобили грозят угробить профессию шофера, и последние бастуют, перекрывая хайвеи. Что в новостях правда, а что ложь понять становиться все сложнее. Граница между матрицей и реальностью все тоньше. Человечество засасывает в фантастическую воронку, которую оно придумало и создало само.
«АН» как самая научная газета 21-го века начинает цикл материалов под общим названием: «ИИ: интеллект или идиот?». Присоединяйтесь!
Мнения, высказываемые в данной рубрике, могут не совпадать с позицией редакции
Источник: argumenti.ru
Комментарии закрыты.