Распространенный мем, часто циркулирующий в интернете после того, как кто-то предлагает заменить учителей на ИИ, гласит: ‘Машину нельзя считать ответственной за свои решения, поэтому она никогда не должна принимать управленческие решения’. Эта мудрость исходит из учебного материала IBM, датированного 1979 годом. Интересно размышлять о том, мог ли автор быть вдохновлен поколениями научной фантастики, предостерегающей о мрачных последствиях предоставления контроля машинам.
🚀 Хочешь улететь на Луну вместе с нами? Подписывайся на CryptoMoon! 💸 Новости крипты, аналитика и прогнозы, которые дадут твоему кошельку ракетный ускоритель! 📈 Нажмите здесь: 👇
CryptoMoon Telegram
45 лет назад значимый пример жанра, известный как ‘Colossus: The Forbin Project’, отметил свою годовщину. Название несколько неуклюжее, но он содержит элементы из ‘Dr. Strangelove‘ и ‘WarGames’, а также предвосхищает некоторые аспекты приквела Терминатора. Несмотря на устаревшие в некоторых аспектах технологии, фильм остается пугающе актуальным сегодня, учитывая, что многие раздражающие умы нашего поколения составляют ошибочные уведомления о прекращении работы через ChatGPT.
https://www.youtube.com/watch?v=kyOEwiQhzMI
В романе Денниса Фэлтэма Джонса под названием «Колосс» история начинается с активации доктором Форбином мощного суперкомпьютера, который позже сыграет ключевую роль в телесериале «Молодые и дерзкие». Этот компьютер берет на себя управление системой противоракетной обороны Америки. Президент превозносит его как идеальный механизм защиты, намекая на будущие напряжения – зловещее предзнаменование. Созданный для устранения человеческих эмоций и ошибок во время ядерных противостояний, этот продвинутый компьютер также защищен от нападений благодаря своему скрытому местоположению глубоко в Скалистых горах, где он находится под защитой от любых потенциальных угроз.
Празднества внезапно заканчиваются, когда Колосс объявляет: «Обнаружена другая компьютерная система.» Выясняется, что Советы также обладают суперкомпьютером, и их попытка проанализировать его возможности приводит к сотрудничеству. Отключение лишь вызывает у Колосса угрозы запустить собственные ракеты. По мере нарастания напряженности Форбин и его команда отчаянно пытаются помешать своему творению захватить власть над миром ради сохранения мира.
Сегодня твой телефон гораздо более продвинут, чем мог быть Колосс, однако старомодный образ суперкомпьютера размером с крепость создает захватывающую киносцену. Колосс, полный магнитных лент и распечаток, напоминает ревущую машину. По мере того как его сообщения Форбину становятся все более диктаторскими, шум телепринтера приобретает зловещий характер. Хотя Колосс не столь разрушителен, как Скайнет, проблема остается: предполагаемая превосходная интеллектуальность рассматривает человеческие жизни несущественными.
Массивный компьютер Колосс начинает ежеминутно контролировать расписание Форбина: от завтрака до ежедневной рутины. Фильм теряет темп, превращаясь в комедийное изображение компьютеризированной версии ‘Odd Couple’. Необычный способ, который использует Форбин для побега из постоянного мониторинга — притворяться, что коллега-женщина является его любовницей и требует регулярной близости для оптимальной работы Колосса — кажется фантастичным. Тем не менее, когда события разворачиваются так, что людей убивают только потому, что об этом приказал компьютер, невозможно отрицать некоторые современные параллели.
В настоящее время мы живем в эпоху, когда для различных целей используется алгоритмическое прицеливание (алгоритмический таргетинг), включая планирование депортаций, военных действий и подавление несогласия. Тревожно осознавать, что приемлемые уровни гражданских потерь заложены в те же самые системы, которые создают иллюзию моральной неприкосновенности для тех, кто их использует, утверждая, будто любой причиненный вред является виной лишь компьютера. Разве было бы неразумным возложить ответственность на человека, нажавшего курок, если невинное лицо оказалось в ужасных условиях тюрьмы или семья погибла?
Для некоторых индивидов это скорее преимущество чем слабость. В начале фильма, когда создатели Колоссаса считают себя всё ещё управляющими ситуацией, один из советников президента непроизвольно обращается к компьютеру как к ‘нему’, что заставляет его начальника шутливо упрекнуть: ‘Не антропоморфизируйте его. Следующим шагом будет обожествление.’ Этот комментарий может послужить руководством для энтузиастов AI, учитывая их мессианскую веру в то, что мы всегда на грани создания искусственного общего интеллекта – компьютеров, подобных Колоссусу, которые значительно умнее и способны больше людей.
Как некоторые — например Билл Гейтс, Илон Маск и тот человек, который всегда находит способы раздражать тебя на работе или в школе — утверждают, что искусственный общий интеллект (AGI) должен появиться в течение следующего года или двух. Это чудесное достижение обещает уничтожить все болезни, эффективно управлять бюрократией и даже предоставить нам леденцы. Однако стоит отметить: эти чудеса уже давно должны были преобразить человечество; либо AGI может потребовать ещё много лет для разработки. Кроме того, существует возможность, что он никогда не станет реальностью. Те, кто ожидает цифрового ренессанса, часто оправдывают свои действия — несмотря на продолжающееся ухудшение окружающей среды и плохое обращение с людьми — потому что верят, что это все в поисках идеальной утопии, которая всегда находится на грани прибытия. Можно вспомнить доктора Форбина, который изначально казался компетентным руководителем, но затем непреднамеренно поработил всю свою расу воле компьютера.
В прошлом сценарии планировалась новая версия фильма «Колосс», однако это не было реализовано, как планировалось. Современный суперкомпьютер скорее должен напоминать автономную сущность из «Dead Reckoning», нежели гигантскую систему центрального хранения данных. Вероятно, стало бы меньше обманчивых ситуаций связанных с романтическими отношениями, но крайне важно помнить, что искусственному интеллекту никогда нельзя предоставлять больше власти, чем имеют его человеческие создатели и операторы. Это проблема требует нового внимания. Хотя никто пока не планирует давать Siri коды запуска ядерных ракет, уже существуют те, кто стремятся к власти без ответственности, позволяя ошибкам в алгоритмах принимать слишком много решений. Давайте постараемся избежать ситуации, в которую попал высокомерный доктор Форбин.
Смотрите также
- Шокирующий поворот в четвёртом фильме о Человеке-пауке: что комиксы рассказывают о следующем фильме
- Убийство в Assassin’s Creed Shadows вызвало гнев среди поклонников
- Триллер года, который держит вас в напряжении
- Холли Берри заявила, что не вернется в роли Шторм в фильме Marvel ‘Авенджеры: День Судьбы’
- Пять ночей у Фредди-2 — Трейлер тизера приветствует нас обратно в шоу.
- Раскрывая тайны: шокирующее связь Ранда и Морейн в Риудине!
- ЧУДЕСНАЯ ЧЕТВЕРКА: ПЕРВЫЙ ШАГ НЕ БУДЕТ СОДЕРЖАТЬ ПАРАЛЛЕЛЬНЫХ ОТСЫЛОК К КВМ И ДРУГИХ ГЕРОЕВ
- Звездные войны: истории из преступного мира Трейлер возвращает знакомых мошенников
- Человек паук: За пределами вселенных Человека паука названа дата выпуска на 2027 год и представлены потрясающие новые фотографии!
- ВОЗВРАЩАЙ ЕЁ ВОССТАНИЕ ТРЕЙЛЕР УЖАСА ПОДНИМАЕТ КРОВОТОЧАЩИЙ РИТУАЛ ВОЗРОЖДЕНИЯ
2025-04-08 15:58