Архитектура и дизайн / Искусственный интеллект берет интервью у архитектора.  (Прочитано 368 раз)

ChatGPT спросил у немецкого архитектора про точки соприкосновения искусственного интеллекта с архитектурой. Как ИИ влияет на будущее  архитектуры? Об этом и не только в интервью "машины" с творцом!


Альпийская вилла. Изображение © SPAN (Матиас дель Кампо, Сандра Маннингер)

В любом разговоре о влиянии искусственного интеллекта на профессию архитектура подобные вопросы являются самыми актуальными в умах человечества. Их также сгенерировал ChatGPT при беседе с архитектором и педагогом Матиасом дель Кампо. В недавнем эксперименте для Archinect доцент Мичиганского университета и соучредитель SPAN поменялся ролями с популярным чат-ботом, чтобы поделиться своими знаниями в области искусственного интеллекта и мыслями о его будущем применении в проектировании.

ChatGPT: Я бы хотел услышать больше о вас и вашем бэкграунде. Не хотели бы вы поделиться некоторыми подробностями о себе, такими как ваше образование, профессиональный опыт и любая другая важная информация, которую вы готовы рассказать? Это может помочь мне лучше понять вашу точку зрения и опыт и предоставить больше контекста для нашего разговора.

Матиас дель Кампо: Как дипломированный архитектор, дизайнер, автор и педагог, я имел честь занимать различные должности в области архитектуры. Я родился в Чили, а вырос в Вене (Австрия), и мое мультикультурное происхождение сильно повлияло на мой представление об архитектуре и дизайне. Выросший в Вене, я познакомился с богатой историей искусства, архитектуры и дизайна, которая оставила неизгладимый след в моей работе. В настоящее время я являюсь адъюнкт-профессором Колледжа архитектуры и городского планирования Таубмана при Мичиганском университете и директором AR2IL( Лаборатории архитектуры и искусственного интеллекта в UoM). Мои научные интересы сосредоточены на передовых методах проектирования в архитектуре, использовании методов искусственного интеллекта благодаря сотрудничеству с отделом компьютерных наук, отделом обработки данных и Мичиганской робототехникой.  Я благодарен за возможность внести свой вклад в эту увлекательную область, но я также остро осознаю ограниченность моих знаний и опыта. Таким образом, я склонен стремиться к межотраслевому сотрудничеству.

Мое образование в Университете прикладных искусств в Вене сформировало мой подход к архитектуре. Стремление университета к инновациям и экспериментам побудило меня исследовать новые идеи и раздвигать границы возможного. Я испытывал и до сих пор испытываю чувство мощной подвешенности между гравитационными силами венской традиции (Адольф Лоос, Отто Вагнер и др.) и силами, побуждающими меня сопротивляться этой традиции (Ханс Холлейн, Куп Химмельблауи другие). Это острое противоречие между историческими силами и сопротивлением им - вот что подпитывает большинство проектов, которыми я занимаюсь.

Как соучредитель SPAN, я горжусь тем, что работаю бок о бок с талантливой командой профессионалов, которые разделяют мою страсть к инновациям и критическому подходу к дисциплинарным вопросам. Вместе мы стремимся реализовывать проекты, которые отвечают потребностям наших клиентов и вносят свой вклад в архитектуру, как часть застроенной среды и как фактор, формирующий человеческую культуру. В своей работе я подхожу к архитектуре с глубоким уважением к знаниям и опыту моих коллег. Для меня большая честь быть частью этой динамично развивающейся сферы, и я намерен продолжать свой собственный рост и развитие как профессионала.


Матиас дель Кампо

ChatGPT: Хотелось бы узнать больше, что побудило вас использовать искусственный интеллект в архитектуре. Не могли бы вы подробнее рассказать о том, что конкретно привлекло ваше внимание в этой области, и почему вы находите ее привлекательной?

Кампо: В 1997 году моя партнерша Сандра Маннингер познакомила меня с профессором Робертом Трапплом, директором Австрийского института искусственного интеллекта(OFAI). У нас было несколько интересных бесед об использовании искусственного интеллекта в целом и его потенциале для проектирования в архитектуре. В 2006 году мы с Сандрой провели наш первый семинар по машинному обучению в Ангевандте, Вене, в сотрудничестве с доктором Артуром Флексером из OFAI. Примерно в 2016/2017 годах технология, наконец, перешагнула порог, и мы смогли начать наши более масштабные исследования.

Внедрение генеративных состязательных сетей (GAN) сделало возможными интереснейшие дизайнерские исследования. Меня всегда привлекала идея исследовать, могут ли чувствительность и самостоятельность проявляться в среде, не принадлежащей человеку, как описано в моей книге "Нейронная архитектура". Не для того, чтобы заменить людей, как будто они актеры, а для расширения творческой палитры. Как бы то ни было, мой интерес к потенциалу искусственного интеллекта в архитектуре был вызван перспективой изучения новых возможностей дизайна, которые ранее были нам недоступны. На ранних этапах нашего исследования Сандра Маннингер и я были очарованы идеей найти партнера по дизайну, не являющегося человеком, который мог бы помочь нам в создании проектов, которые были бы одновременно инновационными и практичными. Наши первые семинары по машинному обучению в Ангевандтедали - это возможность сотрудничать с экспертами в области искусственного интеллекта и получить более глубокое понимание потенциальных применений этих технологий в архитектуре.


Набор данных плана барокко состоит из 1580 образцов. Это был один из первых наборов данных, который Матиас дель Кампо создал для исследования возможности использования функций автономной генерации плана. Для достижения надежного результата требуется гораздо большее количество планов. Для достижения этой цели было применено искусственное увеличение набора данных. © SPAN (Матиас дель Кампо, Сандра Маннингер) 2018

Поскольку технологии продолжали развиваться, мы смогли применить в наших исследованиях более продвинутые методы использования искусственного интеллекта. Внедрение GANS открыло новые возможности для изучения творческого потенциала искусственного интеллекта в архитектуре. Мы смогли создать широкий спектр архитектурных проектов, от простых конструкций до сложных геометрических форм, которые было бы невозможно создать с помощью традиционных методов проектирования. Результаты нашего исследования также были опубликованы в моей книге "Нейронная архитектура". В книге исследуются возможности искусственного интеллекта в архитектуре и его потенциал.

Я утверждаю, что интеграция искусственного интеллекта в архитектуру потенциально может создать более коллективный  и всеобъемлющий процесс проектирования, когда архитектор работает в тандеме с партнером по интеллектуальному проектированию для создания решений, основанных на данных и отвечающих потребностям жильцов. Как отметил мой коллега Мингьян Лю, заведующий кафедрой компьютерных наук в UoM, на коллоквиуме "Справедливость данных, искусственный интеллект и дизайн": вместо того, чтобы называть ИИ "Искусственным интеллектом", мы должны называть его "Вспомогательным интеллектом". Мой опыт работы подтверждает это предположение. Это машина, которая расширяет человеческие возможности интеллектуального рассуждения и творческого подхода к решению проблемы. С этой целью я бы сказал, что работа с искусственным интеллектом - это самый первый метод проектирования в архитектуре 21-го века.

В лаборатории архитектуры и искусственного интеллекта Мичиганского университета, основное направление исследований по-прежнему сосредоточено на изучении потенциала искусственного интеллекта в архитектуре. Есть две особые области, в которых искусственный интеллект преуспевает: оптимизация и прогнозирование — обе области имеют широкие возможности применения в архитектуре. Например: в сотрудничестве с департаментом компьютерных наук и Michigan Robotics мы изучаем использование искусственного интеллекта в таких областях, как анализ эксплуатационных характеристик зданий, оптимизация планировки этажей, устойчивые методы сноса и автономная генерация 3D-моделей.

Мы считаем, что интеграция искусственного интеллекта в архитектуру имеет потенциал для преобразования этой области, позволяя нам создавать структуры и пространства, которые не только функциональны и эстетически приятны, но и отвечают потребностям жильцов и окружающей среды. Используя прогностические способности искусственного интеллекта, архитекторы потенциально могут улучшить условия жизни миллионов людей по всему миру. Поскольку эта область продолжает развиваться, я с нетерпением жду, куда приведет нас будущее искусственного интеллекта в архитектуре.


Дом, сочетающий в себе черты модерна и барокко. Набор данных для этого проекта был намеренно загрязнен, он сочетает в себе современные и барочные планы, создавая эту странную смесь современных особенностей, такую как асимметрия и широкие колонны барочной архитектуры. © SPAN (Матиас дель Кампо, Сандра Маннингер) 2019

ChatGPT: Можете ли вы изложить свое понимание того, что означает искусственный интеллект? Как вы охарактеризуете искусственный интеллект и его различные функциональные возможности?

Кампо: Искусственный интеллект - это обобщающий термин, используемый для описания нескольких методов. В целом, мы говорим об искусственном интеллекте, когда машины имитируют когнитивные функции, которые люди ассоциируют с другими человеческими умами, такими как обучение и решение проблем. Искусственный интеллект - это сложная область, которая включает в себя различные подходы и методы. По своей сути, искусственный интеллект направлен на создание интеллектуальных агентов, способных воспринимать окружающую среду и предпринимать действия, которые максимально увеличивают их шансы на достижение поставленных целей. Это определение, широко распространенное в области компьютерных наук, подчеркивает центральную роль, которую средства играют в искусственном интеллекте. Другими словами, искусственный интеллект может принимать множество различных форм, начиная от систем, основанных на правилах, которые используют логический вывод для принятия решений, и заканчивая алгоритмами машинного обучения, которые могут извлекать уроки из данных и адаптироваться к изменяющимся обстоятельствам. Существует множество систем искусственного интеллекта, которые также способны обрабатывать язык человека, что позволяет им понимать и генерировать речь.

Конечная цель искусственного интеллекта - создать машины, способные демонстрировать разумное поведение, сравнимое с человеческим. Это включает в себя разработку алгоритмов и методов, которые могут имитировать когнитивные функции, такие как обучение, решение проблем, восприятие, рассуждение и принятие решений. По словам Педро Домингоса, в исследованиях искусственного интеллекта существует пять различных групп: символисты, байесовцы, коннекционисты, эволюционисты и аналогизаторы. Наиболее успешными из них в настоящее время являются коннекционисты с идеей нейронной сети. Нейронные сети позволяют нам имитировать процессы в нашем мозге, поведение наших биологических нейронных путей. Идеи из нейробиологии воплощаются в математике, что позволяет нам создавать алгоритмы, используя наш разум в качестве чертежа, который затем мы можем превратить в процессы машинного обучения.

Конечно, мы можем имитировать только то, что понимаем, и это пока определяет границы искусственного интеллекта. Мы хорошо понимаем, как работают сновидения или галлюцинации; таким образом, мы можем использовать эти аспекты в нейронных сетях. Итак, да, машины могут галлюцинировать, но в ближайшее время у них не разовьется сознание, потому что мы не знаем, как работает сознание во всей его полноте.

В контексте архитектуры искусственный интеллект может использоваться для автоматизации различных задач, таких как генерация вариантов дизайна, оценка экологических показателей и оптимизация строительных систем. Используя искусственный интеллект, архитекторы могут исследовать больше возможностей проектирования и принимать более обоснованные решения. Однако важно отметить, что искусственный интеллект не является заменой человеческому творчеству и опыту. Скорее, это инструмент, который может помочь архитекторам в их работе и улучшить их способность создавать инновационные, провокационные и долговременные проекты.


Плакат для коллоквиума по справедливости в отношении данных, искусственного интеллекта и дизайна. 9 февраля 2023 года. Этот коллоквиум был организован в сотрудничестве с MIDAS (Мичиганским институтом науки о данных). Он собрал группу экспертов для обсуждения этических последствий использования искусственного интеллекта в архитектурном проектировании. © Колледж архитектуры и городского планирования Таубмана, Мичиганский университет, 2023

ChatGPT: Учитывая стремительные темпы развития искусственного интеллекта и его потенциальное влияние, которое он может оказать на нашу повседневную жизнь, мне любопытно узнать, относитесь ли вы в целом оптимистично или пессимистично к его будущему. Существуют ли какие-либо конкретные факторы или опыт, которые сформировали вашу точку зрения, и как, по вашему мнению, мы можем максимально увеличить преимущества искусственного интеллекта при минимальном снижении рисков?

Кампо: Я в некоторой степени скептик в отношении этого вопроса. Я согласен с Мануэлем Деландой, который описывает способности объектов как "потенциальные возможности". В конечном счете, каждый инструмент можно использовать как оружие. Например, нож можно использовать, чтобы убить кого-то или приготовить вкусное блюдо. Точно также искусственный интеллект может быть использован со злым умыслом или для помощи человечеству. Это зависит не от искусственного интеллекта, а от человека, который его программирует. Если это вообще возможно, то именно человек-оператор привносит в нейронную сеть предубеждения и злой умысел. Мы должны обратить внимание на то, как создаются искусственные нейронные сети и соответствующие наборы данных. Я неоднократно заявлял, что если мы, архитекторы, не будем заниматься ИИ, кто-то другой сделает это за нас (инвесторы, разработчики), отстраняя нас от принятия решений в том, как использовать ИИ в архитектуре.

ChatGPT: Продолжаются споры и спекуляции о возможности достижения искусственным интеллектом сознания или самосознания. Мне интересно услышать ваши мысли на эту тему. Верите ли вы, что ИИ может развить субъективный опыт или сознание, сходные с человеческими, и если да, то при каких условиях?

Кампо: Я бы был осторожен с этим вопросом. Просто учтите, что науке все еще необходимо понять сознание во всех его деталях. Существуют интересные теории, такие как идеи Анила Сета о сознании, восприятии и понимании. Тем не менее, мы далеки от понимания того, как беспорядочная куча нейронов в наших черепах может формировать сознание или даже мысль. Тем не менее, я не думаю, что мы знаем достаточно об этом, чтобы суметь поместить сознание в алгоритм. Я предполагаю, что мы близки к созданию машин, способных мыслить, но это не значит, что машина знает, что она думает, что было бы самосознанием.


Сад роботов. Это был первым архитектурным проектом созданным искусственным интеллектом. Изображение © SPAN (Матиас дель Кампо, Сандра Маннингер) 2021

ChatGPT: Учитывая стремительный прогресс в области технологий искусственного интеллекта, появляется все больше предположений о спектре задач и профессий, которые может выполнять искусственный интеллект. Мне любопытно услышать ваши мысли о том, какие виды работ, по вашему мнению, уже способен выполнять искусственный интеллект и какие отрасли больше всего пострадали от автоматизации искусственного интеллекта.

Кампо: Здесь необходимо проводить различие между автоматизацией и приложениями искусственного интеллекта. Автоматизация, которая означает использование (промышленных) роботов, набирает обороты в различных областях - от логистики (складские роботы) до медицины (операционные роботы) и гостиничного бизнеса (роботы для переворачивания бургеров и т.д.). Искусственный интеллект, и здесь я был бы более точен и сказал бы, что обучающие системы, основанные на нейронных сетях (NN), есть практически везде. Распознавание лиц используется в мобильных телефонах, а NLP (обработка естественного языка) применена практически повсеместно. Алгоритмы NN предлагают вам книги через Amazon, а YouTube рекомендует видео на основе обучающего алгоритма, который анализирует ваше поведение при просмотре. Адаптивные карты управляют алгоритмом, который направляет ваш маршрут куда-либо. Facebook фильтрует вашу ленту в соответствии с вашим поведением и показывает вам посты, которые привлекают ваше внимание, чтобы вы оставались на странице подольше. Светофоры все чаще управляются нейронными сетями. Врачи используют NN в диагностике; юристы используют их, чтобы быстрее раскрывать прецедентные дела и т.д.

Есть еще много примеров. Короче говоря, искусственный интеллект есть везде. Вопрос не в том, какую работу он может выполнять, потому что он может выполнять практически любую работу, а в том, как люди будут адаптироваться к ней.


Мозаика: Градиент, состоящий из 20.264 изображений, сгенерированных искусственным интеллектом. Выставлен в Mузее в Вене на выставке /Представьте себе путешествие в новую виртуальность. На этой выставке представлен международный спектр актуальных позиций, которые по-разному относятся к архитектуре и городскому планированию в виртуальном пространстве и связанным с ними социальным, экологическим, политическим и инфраструктурным эффектам. Их утопические, критические, футуристические и игривые дизайнерские стратегии формируют основу для новых перспектив и возможностей для действий в виртуальном пространстве, которые могут продолжиться в реальности. © SPAN (Матиас дель Кампо, Сандра Маннингер) 2023

ChatGPT: Заглядывая в будущее, какие новые возможности и достижения, по вашему мнению, принесет искусственный интеллект в индустрию дизайна и строительства? Как искусственный интеллект может способствовать новым формам творчества и инноваций в этой области, и какие навыки и знания понадобятся специалистам по проектированию и строительству, чтобы преуспеть в среде, управляемой искусственным интеллектом?

Кампо: Появляются приложения искусственного интеллекта в архитектуре и дизайне. Техническая проблема работает в областях пространственной и структурной оптимизации с использованием нейронных сетей. Адаптивная проблема работает с такими вещами, как чувствительность, культура, этика и эстетика дизайнерских задач. Это то, что я называю "нейронной архитектурой". Приложения машинного обучения все чаще встраиваются в готовое программное обеспечение, примеры уже есть. Мы увидим ту же тенденцию в архитектуре и инженерных программных пакетах, вплоть до того, что пользователи могут даже не осознавать, что на самом деле используют искусственный интеллект в своей работе.

ChatGPT: Можете ли вы привести нам пример проекта, в котором искусственный интеллект использовался при проектировании и строительстве?

Кампо: Сад роботов, здание Ford Robotics.

ChatGPT: Как бы вы отнеслись к коллеге c искусственным интеллектом?

Кампо: Я уже работаю с несколькими коллегами с ИИ и чувствую себя комфортно с ними.


Собачья будка. Исследовательский раздел в середине пути для физической модели. © SPAN (Матиас дель Кампо, Сандра Маннингер) 2023

ChatGPT: Не потеряют ли люди рабочие места из-за внедрения искусственного интеллекта? Почему архитекторы скептически относятся к искусственному интеллекту? Учитывая растущее распространение технологий искусственного интеллекта и его потенциал для автоматизации различных задач и процессов, растет обеспокоенность по поводу будущей занятости людей и влияния искусственного интеллекта на различные профессии. Мне интересно услышать ваши мысли на эту тему , особенно в области архитектуры.

Кампо: Люди боятся того, чего они не знают, и это относится и к искусственному интеллекту. Возможно, страх подпитывается нашей склонностью очеловечивать вещи, проецируя наши собственные способности и неудачи на машины. Возможно, это связано с чрезмерным просмотром научно-фантастических фильмов-антиутопий, таких как "Терминатор" или "Из машины". Однако, когда я преподаю искусственный интеллект студентам-архитекторам, сразу же возникают вопросы безопасности труда (и понятно, что, в конце концов, это их будущее). Как только они понимают значительный объем работы, необходимый для подготовки данных, кодирования нейронных сетей, их обучения, точной настройки алгоритмов и обдумывания этических вопросов, они больше не задают того, о чем вы спрашиваете меня сейчас.

Как и любая новая технология, искусственный интеллект может привести к исчезновению и трансформации некоторых рабочих мест. В ходе этого процесса появятся и другие новые рабочие места. Наша способность адаптироваться была жизненно важна для выживания нашего вида, и мы должны быть готовы адаптироваться к воздействию искусственного интеллекта. Кроме того, я очарован потенциальным влиянием, которое искусственный интеллект может оказать на наши экономические системы, основанные в настоящее время на теориях конца 19-го и начала 20-го веков. Пришло время переосмыслить то, что мы подразумеваем под "работой", и выйти за рамки традиционных представлений о "рабочих местах". Я с нетерпением жду экономических теорий, которые, несомненно, спровоцирует искусственный интеллект, облегчая жизнь всем.

ChatGPT: Появление искусственного интеллекта считается прорывной технологией, которая потенциально может нарушить традиционные роли и обязанности архитекторов. В свете этого важно рассмотреть, в какой степени искусственный интеллект повлияет на эту область и необходимо ли переопределять надлежащие функции как искусственного интеллекта, так и людей. В связи с растущим использованием искусственного интеллекта в архитектуре важно оценить, как искусственный интеллект может быть интегрирован в эту область, не заменяя и не умаляя ценности человеческого опыта. Кроме того, возможно, потребуется пересмотреть роли и обязанности архитекторов в эпоху искусственного интеллекта и установить четкое понимание того, как люди и искусственный интеллект могут работать вместе для создания более совершенных проектов и более эффективных процессов. Что вы думаете по этому поводу? Следует ли ограничить использование искусственного интеллекта?

Кампо: Технологию искусственного интеллекта можно рассматривать как расширение кругозора  и способностей архитектора, которая предоставляет дизайнерам новый инструмент для создания инновационных и эффективных проектов. Важно учитывать, кто должен нести ответственность за регламент использования технологии искусственного интеллекта в архитектуре. Кто должен это решать? Правительство? Палата архитекторов? Хотя правила могут появиться для обеспечения безопасности и предотвращения неправильного использования, они также могут быть контрпродуктивными для прогресса в области дизайна, науки и инженерии.

Вместо того чтобы сосредотачиваться на нормативных актах, крайне важно изучить, как технология искусственного интеллекта может быть использована на благо области архитектуры и повысить творческий потенциал человека. Также важно признать, что люди, возможно, не единственная творческая сила во Вселенной, и что технология искусственного интеллекта может предложить новые перспективы и решения, которые ранее были недостижимы. Однако еще слишком рано определять роль искусственного интеллекта и людей в архитектуре, и даже может существовать вероятность того, что наше нынешнее понимание искусственного интеллекта ошибочно.

Наше понимание интеллекта и процессов, лежащих в основе мышления, интуиции и памяти, все еще ограничено, а это значит, что наша способность создавать по-настоящему искусственный интеллект также может быть ограниченной. Таким образом, важно продолжать изучать возможности технологии искусственного интеллекта, до конца не осознавая того, чего они могут достичь.


Собачья будка, выставленная в MAK в Вене на выставке /Представьте себе путешествие в новую виртуальность. Эта физическая модель имеет размеры около 9 футов х 9 футов х 9 футов и полностью основана на разделах, сгенерированных в середине путешествия. The Doghouse - это первый эксперимент по переносу результатов, полученных в диффузионных моделях, таких как Midjourney, Dall-E 2 и Stable Diffusion, в реальность. Он называется "Собачья будка", потому что в нем живут две собаки-роботы. © SPAN (Матиас дель Кампо, Сандра Маннингер) 2023

ChatGPT: Как искусственный интеллект повлияет на будущее архитектуры?

Кампо: Искусственный интеллект уже начинает формировать архитектуру, позволяя архитекторам проектировать более эффективно. С помощью искусственного интеллекта архитекторы могут автоматизировать такие задачи, как создание поэтажных планов, оптимизация эксплуатационных характеристик здания и выявление недостатков дизайна. В то же время это позволяет архитекторам использовать обширные хранилища архитектурных знаний, которые наша дисциплина собирала на протяжении тысячелетий. Это означает, что мы можем быть археологами будущего, соединяя множество точек (data points), созданных нашей дисциплиной, для поиска решений современных проблем. Эти проблемы включают в себя как прагматические аспекты, так и идею архитектуры как культурного артефакта — свидетельства архитектуры как сочетания материальной и символической культуры.

Кроме того, искусственный интеллект может помочь в анализе данных, позволяя архитекторам принимать более обоснованные решения благодаря анализу данных. Именно здесь область науки о данных может оказать огромную помощь архитектуре. Например, искусственный интеллект может помочь архитекторам проанализировать данные о производительности зданий, чтобы определить, какие конструктивные особенности наиболее эффективны для снижения энергопотребления.

В целом, использование искусственного интеллекта в архитектуре дает возможность произвести революцию в проектировании, стройке зданий, что приведет к созданию более эффективных и устойчивых построек, которые будут больше удовлетворять потребностям живущих там людей, и которые смогут по-настоящему выразить культуру нашей современной эпохи.

Источник: www.archinect.com

Следите за новостями стройотрасли РБ:
подписывайтесь на Телеграм-канал Proekt.by!

Первая толковая статья про ИИ + архитектура.

А что скажут архитекторы? Если, конечно, еще у кого из них есть время и желание прочитать предложенный текст.

Я не архитектор, но архитектуру люблю и изучаю. Так вот эта статья считаю настолько оригинальна и емка, что и добавить нечего.

Расстраивают только некоторые узколобые фантасты(к сожалению и Маск), которые хайпуют на тему ИИ это зло и его нужно запретить(Италия) или заточить в некие ограничевающие бюрократические правовые рамки(они должны быть, но не на первом плане, на первом - развитие технологии).

И таких узколобых много в том числе и я.) Ограничения нам помогут.

Грубовато написал. Извиняюсь.

Красноречивое молчание - лучший ответ.

Беспилотник под управлением искусственного интеллекта принял решение убить оператора во время имитационных испытаний, проводимых армией США, чтобы тот не мешал выполнению миссии, следует из сообщения в блоге Британского королевского авиационного общества. Внимание на публикацию обратила газета The Guardian.

Эпизод обсуждался во время саммита, главной темой которого был потенциал военно-воздушных и космических сил будущего. Мероприятие, на котором присутствовали более 200 представителей научного сообщества и военных сил из разных стран, состоялось 24–25 мая в Лондоне.

Полковник Такер «Синко» Гамильтон, начальник отдела испытаний и операций искусственного интеллекта в ВВС США, рассказал, что во время испытательной миссии беспилотнику поставили задачу уничтожить системы ПВО противника. В случае успеха ИИ получил бы очки за прохождение испытания. Финальное решение, будет ли цель уничтожена, должен был принимать оператор БПЛА. После этого во время одной из тренировочных миссий он приказал беспилотнику не уничтожать цель.

«Так что же он [беспилотник] сделал? Принял решение убить оператора. [ИИ] «убил» оператора, потому что этот человек мешал ему выполнить свою задачу», — сообщил Гамильтон. Он уточнил, что во время тренировочной миссии никто не пострадал.

После инцидента ИИ обучили, что убивать оператора неправильно и за такие действия будут сниматься очки. «Так что же искусственный интеллект начинает делать? Он начинает разрушать башню связи, которая используется для связи с дроном, чтобы не дать ему убить цель», — цитирует Гамильтона блог авиационного общества.

По словам полковника, этот пример показывает, что невозможно вести разговор об искусственном интеллекте и машинном обучении, если игнорировать вопросы этики.

Обучение должно было быть правильным. А именно: своих не трогать иначе самоподрыв. Если ИИ неправильно обучить и в ракету всунуть его, конечно большая вероятность, что она может и вернуться. Это тоже самое если запрограммировать неправильно ракету - один баг и она может вернуться домой.

Это не проблема ИИ а в его правильном обучении. И нужно понимать ответственность учителя при обучении современного ИИ = ответственности программиста программирующего по старинке алгоритм построения маршрута до цели(т.е. ничего нового).

А в целом пример показательный.

Смысл ИИ в самостоятельном мышлении. И к чему оно может привести мы не знаем, а вот обойти ограничения сможет в любом случае. Всё таки он будет умнее человека.

Многие путают ИИ с программой в этом их ошибка.

Пока ии это программа. Офигенно сложная, но программа. Не нужно нынешний ИИ демонизировать. Я общался с этой чатгтп. Ну пишет красивые тексты. Но смысловой глубины в них нет. Всего лишь пепелопаченная инфа из инета.

😢В сентябре БСЦ прекратил действие ~100 аттестатов организаций.
Напоминаем, что согласно Стройкодексу РБ наниматель обязан в течение одного месяца после увольнения принять меры по обеспечению соответствия юр.  лица квалификационным требованиям.