Документы

Стратегия «Умный город- 2030»

Стратегия Москвы
«Умный город – 2030»
Москва 2030 — это инновационный город, использующий цифровые
технологии для повышения уровня жизни, эффективности
деятельности и услуг в городе, а также конкурентоспособности
при обеспечении удовлетворения потребностей настоящего
и будущих поколений в экономических, социальных, культурных
и природоохранных аспектах

Почему город должен стать умным?

Прогнозы футурологов// Мнение экспертного сообщества// Глобальные мегатренды// Ожидания москвичей 

И. Глазунов «Рынок нашей демократии»

Пасторальная модель коммуникации

«Наука, философия, религия»
Дубна
21 октября 2013 г

Достоинства коммуникации отразили:
Э.Гуссерль, Л.Витгенштейн, К.-О.Апель, Ю.Хабермас

В современном сверхинформатизированном мире коммуникация приносит не только блага, но и УГРОЗЫ!

КОДЕКС ЭТИКИ ИСПОЛЬЗОВАНИЯ ДАННЫХ

Настоящий Кодекс этики использования данных (далее – Кодекс), базирующийся на положениях и принципах законодательства Российской Федерации и международных актов, ратифицированных Российской Федерацией, представляет собой свод отраслевых стандартов профессионального и этического поведения, которые участники Кодекса, действуя добросовестно и разумно, добровольно признают и обязуются соблюдать. ЦЕЛЬ И СФЕРА ПРИМЕНЕНИЯ КОДЕКСА Кодекс призван стать основой для саморегулирования участников рынка данных при их взаимодействии с гражданами, юридическими лицами, государством и между собой. Саморегулирование в сфере обработки и использования данных представляет собой меру социальной ответственности участников рынка данных на основе норм деловой этики. Нормы настоящего Кодекса не должны противоречить действующему законодательству Российской Федерации. При этом участники рынка данных в отношении информации, подлежащей защите в соответствии с законодательством Российской Федерации, руководствуются нормами законодательства.

Концепция ИИ и РТ после РГ апрель 2020

КОНЦЕПЦИЯ
развития регулирования в сфере технологий
искусственного интеллекта и робототехники до 2024 года

Целью Концепции развития регулирования в сфере технологий искусственного
интеллекта и робототехники (далее – Концепция) является определение основных
подходов к трансформации системы нормативного регулирования в Российской
Федерации для обеспечения возможности создания и применения данных технологий
в различных сферах экономики с соблюдением прав граждан и обеспечением
безопасности личности, общества и государства.

Концепция ИИ и РТ после РГ апрель 2020

КОНЦЕПЦИЯ
развития регулирования в сфере технологий
искусственного интеллекта и робототехники до 2024 года

1. Общие положения.

1.1. Цели Концепции.

Целью Концепции развития регулирования в сфере технологий искусственного интеллекта и робототехники (далее – Концепция) является определение основных подходов к трансформации системы нормативного регулирования в Российской Федерации для обеспечения возможности создания и применения данных технологий
в различных сферах экономики с соблюдением прав граждан и обеспечением безопасности личности, общества и государства. Одновременно, целью Концепции является создание предпосылок для формирования основ правового регулирования новых общественных отношений, складывающихся в связи с разработкой и применением технологий искусственного интеллекта и робототехники и систем на их
основе (далее также, соответственно, технологии и системы ИИ и РТ), а также определение правовых барьеров, препятствующих разработке и применению указанных систем.
Термины, используемые в настоящей Концепции, употребляются в значении, приведенном в Национальной стратегии развития искусственного интеллекта на период до 2030 г., утвержденной Указом Президента Российской Федерации от 10 октября 2019 г. № 490 (далее – Национальная стратегия), а также в действующих национальных стандартах.
Развитие технологий искусственного интеллекта ставит серьезные вызовы перед правовой системой России, системой государственного управления и обществом в целом. Они обусловлены определенной степенью автономности действий систем ИИ в решении поставленных задач и их неспособностью непосредственно воспринимать этические и правовые нормы, учитывать их при осуществлении каких-либо действий.
В настоящий момент в России отсутствует специальное законодательное регулирование, учитывающее специфику применения технологий ИИ и РТ. В то же время анализ мирового опыта показывает, что в целом ряде стран уже существует первичное правовое регулирование применения ИИ и РТ.
Концепция исходит из того, что для развития технологий ИИ и РТ необходимо создание регуляторной среды, комфортной для развития и внедрения указанных технологий, основанной на балансе интересов общества, государства, компаний разработчиков систем ИИ и РТ, а также потребителей их товаров, работ, услуг.
Однако, представления об этом балансе существенно разнятся. В связи с этим Концепция оставляет открытыми и требующими дальнейшего обсуждения отдельные наиболее спорные вопросы, но может служить инструментом для достижения в ближайшие годы конвергенции интересов общества, государства и бизнеса в рассматриваемой сфере.
Концепция учитывает положения Национальной стратегии, национальной программы «Цифровая экономика Российской Федерации», Стратегии развития информационного общества в Российской Федерации на 2017 — 2030 годы,
утвержденной Указом Президента Российской Федерации от 9 мая 2017 г. № 203, а также иных документов стратегического планирования, нормативных правовых актов и методических документов, в том числе зарубежных стран и международных
организаций. С учетом динамики развития общественных отношений, связанных с созданием и использованием технологий ИИ и РТ, обозначенные в Концепции положения определены с перспективой на период до 2024 г.
1.2. Цели и задачи регулирования.
Приоритетной целью регулирования отношений в сфере ИИ и РТ на данном этапе их развития является стимулирование разработки, внедрения и использования данных технологий, которое будет способствовать достижению высоких темпов экономического роста, повышению благосостояния и качества жизни граждан,
обеспечению национальной безопасности и правопорядка, достижению устойчивой конкурентоспособности российской экономики, в том числе лидирующих позиций в мире в области ИИ.
С учетом заявленной цели регулирования выделяются следующие задачи, на решение которых должно быть направлено регулирование:
– создание основ правового регулирования новых общественных отношений, формирующихся в связи с применением систем ИИ и РТ, имеющих преимущественно стимулирующий характер;
– определение правовых барьеров, затрудняющих разработку и применение систем ИИ и РТ в различных отраслях экономики и социальной сферы;
– формирование национальной системы стандартизации и оценки соответствия в области технологий ИИ и РТ При этом режим правового регулирования технологий применения систем ИИ
и РТ должен обеспечивать необходимую степень защиты прав и свобод человека и гражданина, отвечать интересам общества и государства.
1.3. Принципы регулирования.
Достижение цели и задач правового регулирования отношений,
складывающихся в связи с разработкой и применением систем ИИ и РТ, должно осуществляться с учетом следующих принципов:
– стимулирование развития технологий ИИ и РТ регуляторными средствами как основной вектор развития регулирования в обозначенный временной период («стимулирование прежде регулирования»);
– регуляторное воздействие, основанное на риск-ориентированном,
междисциплинарном подходе и предусматривающее принятие ограничительных норм в случае, если применение технологий ИИ и РТ несет объективно высокий риск причинения вреда участникам общественных отношений и интересам общества и
государства;
– расширение применения инструментов сорегулирования и
саморегулирования, формирование кодексов (сводов) этических правил;
– человеко-ориентированный подход, предусматривающий, что конечной целью развития технологий ИИ и РТ, направляемого посредством регуляторного воздействия, является повышение благосостояния и качества жизни граждан;
– обеспечение баланса интересов разработчиков, потребителей и иных лиц в сфере ИИ и РТ;
– технологический суверенитет: обеспечение необходимого уровня
независимости Российской Федерации в области ИИ и РТ с учетом государственной политики в сфере развития информационных технологий и импортозамещения;
– поддержка конкуренции: обеспечение равных для всех, включая предприятия малого и среднего бизнеса, возможностей для применения экспериментальных правовых режимов, мер государственной поддержки, и для доступа к необходимым
для разработки систем ИИ и РТ данным из государственных и муниципальных информационных систем;
– оценка при разработке нормативных правовых актов и иных документов в сфере ИИ и РТ социальных последствий и рисков в условиях постоянного развития технологий, учет как положительного, так и отрицательного международного опыта регулирования.
Развитие технологий ИИ и РТ должно основываться на базовых этических нормах и предусматривать:
– приоритет благополучия человека (цель обеспечения благополучия человека должна преобладать над иными целями разработки и применения систем ИИ и РТ);
– запрет на причинение вреда человеку по инициативе систем ИИ и РТ (по общему правилу следует ограничивать разработку, оборот и применение систем ИИ и РТ, способных по своей инициативе целенаправленно причинять вред человеку);
– подконтрольность человеку (в той мере, в которой это возможно с учетом требуемой степени автономности систем ИИ и РТ и иных обстоятельств);
– проектируемое соответствие закону, в том числе требованиям безопасности (применение систем ИИ не должно заведомо для разработчика приводить к нарушению правовых норм);
– недопущение противоправной манипуляции поведением человека.
1.4. Проблемы, общие подходы и направления регулирования.
Одним из основных препятствий для расширения применения систем с
использованием ИИ и РТ является отсутствие достаточной степени доверия к ним со стороны общества. Повышение степени автономности таких систем, снижение контроля человека за процессом их применения, не полностью прозрачная логика
принятия решений создают общественный запрос на регуляторные ограничения применения систем ИИ и РТ. В настоящее время в мире отсутствуют единые подходы к регулированию технологий ИИ и РТ, что связано с наличием ряда проблем, не имеющих  однозначного решения. Среди таких концептуальных проблем можно выделить следующие:
– проблема соблюдения баланса между требованиями по защите персональных данных и необходимостью их использования для обучения систем ИИ;
– проблема определения предмета и границ регулирования сферы
использования систем ИИ и РТ;
– проблема самоидентификации системы ИИ при взаимодействии с человеком;
– проблема правового «делегирования» решений системам ИИ и РТ;
– проблема ответственности за причинение вреда с использованием систем ИИ и РТ;
– проблема правового режима результатов интеллектуальной деятельности,
созданных с использованием систем ИИ;
— использование для принятия решений системами ИИ вероятностных оценок и невозможность в ряде случаев полного объяснения принятого ими решения (проблема алгоритмической прозрачности систем ИИ).
Эти и указанные в пункте 49 Национальной стратегии направления
регулирования должны стать основными ориентирами при создании комплексной системы регулирования общественных отношений, возникающих в связи с развитием и внедрением технологий ИИ и РТ.
С учетом экономической и социальной значимости применения технологий ИИ и РТ в различных сферах их разработка и эксплуатация не должны ограничиваться регуляторными мерами, за исключением случаев, связанных с высоким риском причинения вреда жизни и здоровью граждан, обороне страны и безопасности государства.
Для выработки конкретных регуляторных решений требуется использовать риск-ориентированный подход, основанный на оценке размера потенциального вреда указанным ценностям с учетом вероятности его наступления по сравнению с потенциальным положительным эффектом от внедрения технологий ИИ и РТ.
Сам факт использования систем ИИ и РТ не должен являться основанием для установления регуляторных ограничений.
Следует поддерживать развитие регулирования, вырабатываемого и
приводимого в исполнение силами участников рынка (саморегулирование) , включая принятие и использование документов национальной системы стандартизации, кодексов (сводов) этических правил, стандартов и иных документов саморегулируемых организаций, а также иных инструментов. Учитывая принципиальную сложность регулируемой сферы правоотношений, для выработки режима регулирования технологий ИИ и РТ требуется активное вовлечение представителей компаний-разработчиков систем ИИ и РТ в процесс разработки соответствующих нормативных правовых актов (сорегулирование). В дальнейшем может также потребоваться уточнение отдельных норм законодательства в целях нормативного правового описания новых видов правоотношений.

ВЕСЬ ДОКУМЕНТ

Игорь Шнуренко, писатель, независимый эксперт по ИИ

Мы все уедем на Аляску или вернем себе контроль над технологиями?

Сегодня мы перешли от «экономике внимания» к «капитализму слежки», который переносит модель извлечения ресурсов с недр Земли на человеческое сознание и эмоции. Они предсказываются, контролируются и управляются, на них делаются ставки, фактически возник многомиллиардный рынок фьючерсов на человеческое поведение, и этот рынок бурно растет. В итоге сам человек становится другим. Не приведет ли это к тому, что человеческая природа, выведенная из равновесия, обрушится на нас со всей  мощью? Ведь когда начиналась вторая промышленная революция, тоже не было недостатка в оптимистических прогнозах применения технологий. Но в итоге началась хищническая эксплуатация ресурсов Земли, за которую мы расплачиваемся сегодня природными катаклизмами. Речь идет о выживании нашего вида. Способны ли мы усвоить хоть какие-то уроки или надо готовиться к апокалипсису – как это делают многие капитаны хайтек-индустрии, строя себе бункеры в Новой Зеландии или на Аляске?

Большинство, однако, не может переехать на Аляску, и если мы хотим выжить как человеческий род, мы должны решать нарастающие проблемы здесь и сейчас. Для этого, прежде всего, мы должны их осознать. Нужно понять, с какой целью мы развиваем цифровые технологии, чего мы хотим добиться? Почему общественный контроль так сильно отстает от развития цифровых высоких технологий, и можно ли это исправить? Что делать конкретному человеку, объединениям людей, обществу, для того, чтобы избежать негативных последствий «темной стороны» хайтека? 

Некоторые говорят, что развитие технологий предопределено, и эта неизбежность рождает практику их употребления. Но это не так:  технологии не существуют сами по себе, в отрыве от общества, и их развитие определяется не мистикой, а вполне реальными целями, которые ставят те, кто управляет обществом. Так, домашний помощник «Гнездо» от компании «Гугл» собирает максимально возможную информацию на своих пользователей не потому, что так требует некая машина или алгоритм, а из-за экономического императива, который в условиях «капитализма слежки» становится неизбежным правилом для всех участников рынка. Рынку нужны данные, и рынок их получает.

Транснациональные гиганты научились извлекать огромные прибыли, монетизируя психику и делая таким образом «новой нефтью» самого человека, во все большей степени ставя его под контроль безличных алгоритмов. Сильнее всего последствия бесконтрольного использования цифровых технологий бьют по детям, у которых нет привычки к «аналоговым» способам работы с информацией, нет иммунитета от интернет-зависимости.  Исследования психологов и нейрооученых говорят о массовом распространении цифрового аутизма, повышении тревожности у детей, ухудшении их памяти, снижению усидчивости, способности к обучению, прежде всего точным наукам. Появился уже медицинский термин  «математическая тревожность» — речь идет об импульсивно-негативной реакции детей и подростков на само слово «математика».

При этом и общество в целом становится новым объектом извлечения ресурсов и контроля. Индустриальное общество часто представляли в виде механизма с колесиками и шестеренками; кое-кто из художников приветствовал новую машинную эпоху, но большинство творцов  выступали против того, чтобы человек воспринимался как одна из шестеренок в машине, цели которой он не понимает и не разделяет. Однако в сегодняшней антиутопии человек может оказаться в ситуации Грегора Замзы из «Превращения» Кафки. Он превратился в таракана, в существо, которое не может само себя узнать и вернуть себе прежний облик. Изменения поначалу мало заметны, но уже человека из 1990-х  наверняка поразили бы наши современники, прикованные к своим мобильным устройствам, живущие в виртуальной реальности соцсетей больше, чем в настоящем мире, который тоже все больше становится реальностью, дополненной цифровыми гаджетами.

Сегодняшнее общество все больше напоминает пчелиный рой, где индивидуальная свобода подчинена некоему «знанию системы» в целом. Через генерированные сетями «машинного обучения» импульсы, воздействующие на эмоции, система направляет действия отдельных индивидуумов, управляя давлением на них со стороны и загоняя за определенные флажки. В таком обществе лишаются смысла такие понятия, как «демократия», «свобода воли», «политика», и даже, при всей внешней персонализации услуг, «индивидуальность». Снова подчеркнул бы, что особенно сильно воздействие системы на самых юных, ибо они выросли в этом «улье», и не имеют опыта другого общества и других отношений.

Можно ли изменить курс корабля с тем, чтобы он не налетел на скалы, которые уже виднеются на горизонте? Только мы все вместе можем это сделать. Сначала нужно увидеть проблему, не прячась за банальными формулировками, конспирологическими теориями и не оправдывая бездействие ложно понятой «объективностью» и лишающим воли фатализмом.

Прогресс нельзя остановить, но общество может и должно его направлять, просчитывая последствия на перспективу. Русский писатель и философ Иван Ефремов полагал, что человечество с самого начала своей истории балансирует на «лезвии бритвы», и что только так оно может создавать великое и прекрасное, достигать вершин. Нужно и сейчас провести человечество, общество, по «лезвию бритвы», не останавливая прогресс, а задавая ученым и инженерам вектор на усиление возможностей и способностей человека, а не на их ослабление.

Отдельные люди, и общество в целом должны перестать быть бездумными «пользователями», объектами управления со стороны алгоритмов, должны вернуть себе достоинство и возможности сознательного личностного и общественного развития.  

Масштабная повестка цифрового развития в России создает как возможности, так и  риски. Это требует широкого общественного  обсуждения – но при этом нужна «новая осознанность». Что это такое? Это и способы «цифровой гигиены», и подходы «медийной грамотности» для всех и каждого. Это и комплексный, междисциплинарный подход экспертов в разных областях знания, ученых, философов, представителей общественных организаций, бизнеса и государственных структур к разработке и использованию цифровых высоких технологий.

Некоторыми из этих вопросов, в частности, влиянием цифрового информационного поля на человека и общество, уже занимаются специалисты. Психологи-консультанты работают в области цифровой детоксикации, предлагая свои услуги прежде всего представителям власти и бизнеса. Однако представляется, что в условиях бурного развития новых технологий этого явно недостаточно.

Необходим более активный и всеобъемлющий подход, при котором подходы и методики «новой осознанности» будут доступны для всех без исключения членов общества, безотносительно их материального положения, возраста, пола или уровня образования. Необходима и работа над перспективой, постановка задач перед учеными, философами, политиками, с тем, чтобы расширить человеческие способности без слепого полагания на посредство технологических «протезов». «Новая осознанность» — это не отрицание технологического развития и науки, напротив, это возвращение этим понятиям их истинных человеческих значений. В объединении для решения насущных глобальных проблем, доставшихся от прошлого, полного бездумной эксплуатации природных и внутренних ресурсов, человечество может добиться настоящих прорывов.

Мы используем cookie-файлы для наилучшего представления нашего сайта. Продолжая использовать этот сайт, вы соглашаетесь с использованием cookie-файлов.
Принять