Этика искусственного интеллекта скоро станет законом
В среду, 24 ноября, 193 страны, представленные в Организации Объединенных Наций по вопросам образования, науки и культуры (ЮНЕСКО), официально приняли этику и руководящие принципы ИИ.
Этот отчет является колоссальным международным шагом в установлении передовых практик для обеспечения роста и применения ИИ на благо человечества, предотвращая вред.
В этой статье исследуется 26-страничный документ, в котором объясняются четыре главные ценности, десять руководящих принципов и 11 рекомендуемых направлений политики для государств-членов. Если ваша работа связана с созданием, обслуживанием или использованием алгоритмов искусственного интеллекта, я советую вам прочитать полный текст после прочтения моего резюме.
Ценности
1. Уважение, защита и поощрение прав человека и основных свобод и человеческого достоинства
Этот документ является продолжением идеала ООН, направленного на улучшение человечества. Поэтому он начинается с подтверждения других существующих документов и ценностей для общества.
2. Окружающая среда и процветание экосистем
Из-за огромного влияния, которое ИИ может оказать на нашу планету, как с точки зрения вычислительных ресурсов, так и с точки зрения его применения, нам необходимо обеспечить его ответственное использование. ИИ должен защищать нашу окружающую среду и обеспечивать процветание всех экосистем.
3. Обеспечение разнообразия и инклюзивности
Прямо сейчас поле зрения сильно смещено в сторону белых разработчиков-мужчин из богатых стран. Нам необходимо обеспечить, чтобы точки зрения всех слоев общества приветствовались, активно выявлялись и включались в сообщество. В документе указаны многие области, на которых следует сосредоточиться, в частности:
«Это может быть сделано путем поощрения активного участия всех лиц или групп независимо от расы, цвета кожи, происхождения, пола, возраста, языка, религии, политических убеждений, национального происхождения, этнического происхождения, социального происхождения, экономического или социального состояния рождения, или инвалидность и любые другие основания ».
4. Жизнь в мирных, справедливых и взаимосвязанных обществах
Люди - социальные особи. Мы должны гарантировать, что все, что мы разрабатываем, позволит нам жить мирно, быть взаимосвязанными с другими людьми и не подвергаться жестокому обращению.
Руководящие принципы
1. Соразмерность и не навреди
Не используйте массивный алгоритм для нахождения квадратного корня из 4. Точно так же не создавайте алгоритмы, которые активно вредят людям.
2. Охрана и безопасность
Данные необходимо хранить в безопасности. Если злоумышленники могут легко манипулировать вашим алгоритмом ИИ, вы его неправильно спроектировали.
3. Справедливость и недискриминация
Существует множество примеров того, как компьютерное видение обучается слишком большим количеством людей со светлой кожей, что создает множество проблем для людей с более темным оттенком кожи.
Примеры включают в себя «уверенное» определение невиновного чернокожего человека как виновника вооруженного ограбления, отказ от выдачи дезинфицирующего средства для рук чернокожим людям и наблюдение за черным человеком во время видеозвонка в качестве фона вместо человека, ответственного за звонок. Эти и многие другие подобные проблемы необходимо тщательно предотвращать при разработке систем искусственного интеллекта.
4. Устойчивость
Если вы сжигаете кучу ненужных ресурсов, вы делаете это неправильно. Ваша система должна быть максимально компактной. Она должна иметь надлежащую документацию, версии и источники, чтобы прослужить как можно дольше.
5. Право на конфиденциальность и защиту данных
Этот раздел восходит к пункту 2, но более четко подчеркивает важность конфиденциальности. GDPR - это недавний пример законодательства, созданного для обеспечения конфиденциальности. Если пользователи вашей системы не знают, как защищаются их данные, вам необходимо это пояснить.
6. Человеческий контроль и определение
Когда алгоритмы идут не так, как надо, должен быть человек или человеческая организация, которые могут нести ответственность за то, что произошло.
7. Прозрачность и объяснимость
Люди должны доверять системам ИИ, а это значит, что модели черного ящика не годятся. Если вы не можете «понять смысл», то вам нужно сделать что-то по-другому. Либо измените дизайн модели, либо создайте топпер, который может объяснить, что произошло, если результат не имеет смысла.
8. Ответственность и подотчетность
Этот раздел восходит к №6. Не думайте, что последствия плохого дизайна не имеют значения только потому, что это код. Вместо этого создавайте свои системы с четким распределением ответственности и подотчетности.
9. Осведомленность и грамотность
AI относительно новый. При проектировании систем вам необходимо информировать заинтересованные стороны о том, как работает ваша новая система и как они могут ее наилучшим образом использовать.
Большая автоматизация вытеснит существующие рабочие места и создаст новые. Убедитесь, что люди, которые потеряют работу, знают, как найти новую лучшую работу (грамотность ИИ). Если вы делаете чью-то работу устаревшей, вам следует стремиться предоставить им новую работу получше.
10. Многостороннее и гибкое управление и сотрудничество
Не разрабатывайте системы в пустоте. Чтобы следовать другим принципам и стремиться к ценностям, вам необходимо работать в постоянно меняющемся мире с экспертами в предметной области и теми, на кого влияют ваши системы.
Рекомендации по политике
1. Оценка этического воздействия
Поскольку в каждой стране есть свой собственный набор социальных норм, им следует начать с этого документа и создать формальный метод оценки этического воздействия систем, разработанных и развернутых в пределах их юрисдикции.
«Оценка этического воздействия должна быть прозрачной и открытой для общественности, где это необходимо. Такие оценки также должны быть междисциплинарными, многосторонними, многокультурными, плюралистическими и инклюзивными ».
2. Этическое управление и руководство
Каждая страна должна разработать свой собственный свод правил по формализации этих рекомендаций и привлечению организаций к ответственности. Затем, подобно тому, как компании несут ответственность за соблюдение надлежащих финансовых правил, правительствам следует создать аналогичные системы для обеспечения соблюдения этики ИИ.
3. Политика данных
GDPR была отличная реализация политики в отношении данных. Каждое государство-член должно разработать или принять что-то подобное, как подробно описано в этом разделе.
4. Развитие и международное сотрудничество
Развитие ИИ будет масштабным. Следовательно, каждое государство-член должно поощрять развитие внутри своих границ и международное сотрудничество за их пределами.
5. Окружающая среда и экосистема
Поскольку мы делаем упор на то, чтобы беречь окружающую среду, нам необходимо обеспечить соответствие законодательства этой цели. Инфраструктура должна быть устойчивой к бедствиям. Системы искусственного интеллекта должны быть эффективными в отношении данных, энергии и ресурсов. Все системы должны иметь возможность оправдывать себя перед надзорным советом как достаточно эффективные.
6. Пол
Законодательство должно поощрять гендерное разнообразие на всех этапах разработки и использования.
“Государствам-членам следует поощрять гендерное разнообразие в исследованиях ИИ в научных кругах и промышленности, предлагая девушкам и женщинам стимулы для выхода на работу, создавая механизмы для борьбы с гендерными стереотипами и преследованиями в исследовательском сообществе ИИ и поощряя академические и частные организации делиться передовым опытом о том, как повысить гендерное разнообразие”.
7. Культура
Системы искусственного интеллекта могут помочь курировать искусство. Они могут даже помочь в создании произведений искусства. Поэтому государствам-членам следует поощрять свои культурные центры к поиску способов интеграции ИИ для выделения, доступа и создания контента.
8. Образование и исследования
Многие страны и организации признают важность образования STEM. Однако дополнительное образование и финансируемые исследования необходимы для формирования богатой среды знающих практиков и ценных систем. Поэтому в этом разделе очень много важных рекомендаций.
«Государства-члены должны работать с международными организациями, образовательными учреждениями, частными и неправительственными организациями для обеспечения адекватного обучения грамотности населения на всех уровнях во всех странах в целях расширения прав и возможностей людей и сокращения цифрового разрыва и неравенства в доступе к цифровым технологиям, возникающих в результате широкого распространения систем искусственного интеллекта ».
9. Коммуникация и информация
Мы уже используем системы искусственного интеллекта при взаимодействии с голосовыми помощниками, службами поиска изображений и службами перевода. Однако странам нужны формальные способы содействия расширению коммуникаций и методы понимания информации, генерируемой и курируемой ИИ.
«Государства-члены должны использовать системы искусственного интеллекта для улучшения доступа к информации и знаниям. Это может включать поддержку исследователей, академических кругов, журналистов, широкой общественности и разработчиков в целях повышения свободы выражения мнений, академических и научных свобод, доступа к информации и более активного раскрытия официальных данных и информации ».
10. Экономика и труд
Я сохранил британское написание слова "труд", чтобы можно было быстрее искать в документе. Системы искусственного интеллекта окажут такое же влияние на рабочую силу, как и промышленная революция.
Правительствам и НПО необходимо разработать и реализовать программы повышения квалификации рабочих, которые будут перемещены, чтобы предотвратить повсеместную безработицу. Эти сотрудники заслуживают справедливого перехода, и страны должны работать со всеми заинтересованными сторонами, чтобы обеспечить это.
11. Здоровье и социальное благополучие
Системы искусственного интеллекта могут быть значительным подспорьем в системе здравоохранения. Однако, если они не будут реализованы ответственно, они также могут нанести большой вред многим специальностям здравоохранения. Следовательно, для достижения оптимальных результатов странам необходимо внедрить надлежащие законодательные нормы.
“Государствам-членам следует стремиться использовать эффективные системы ИИ для улучшения здоровья человека и защиты права на жизнь, включая смягчение последствий вспышек заболеваний, при одновременном укреплении и поддержании международной солидарности в борьбе с глобальными рисками и неопределенностями в области здравоохранения и обеспечивать, чтобы их внедрение систем ИИ в здравоохранении соответствовало международному праву и их обязательствам в области прав человека. Государства-члены должны обеспечить, чтобы субъекты, участвующие в системах искусственного интеллекта здравоохранения, учитывали важность отношений пациента со своей семьей и медицинским персоналом”.
Заключение
Этот документ не имеет обязательной силы, но он очень хорошо продуман. Каждый, кто активно работает в области искусственного интеллекта, должен прочитать его и найти способы внедрить рекомендации в свою работу. Это только вопрос времени, когда последует закон, официально закрепляющий, как компании должны будут следовать этим руководящим принципам в качестве закона в границах стран, в которых они работают.
Есть ли у вас дополнительные мысли или элементы, которые, по вашему мнению, следует включить в будущую итерацию? Если да, оставьте комментарий и поделитесь этой статьей с людьми, которые сочтут ее полезной. Спасибо!