این مقاله به بررسی اثرات هوش مصنوعی (AI) بر حقوق بشر می‌پردازد و تأکید دارد که ماشین‌ها به خودی خود اخلاقی نیستند و باید بر اساس اصول اخلاقی مشترک طراحی شوند. وی به ویژه بر اهمیت محاسبات عاطفی تاکید می‌کند که می‌تواند تعامل انسان و کامپیوتر (HCI) را بهبود بخشد، زیرا سیستمی که قادر به درک وضعیت ذهنی کاربر است، می‌تواند نیت‌ها و اراده واقعی او را بهتر ارزیابی کند.

• مراقبت و نظارت انسان

استفاده از فناوری‌های جدید مانند نظارت تصویری و ردیابی بیومتریک توسط دولت‌ها، اگرچه ممکن است برای امنیت جامعه مفید باشد، اما می‌تواند حریم خصوصی افراد را نقض کند و منجر به تبعیض‌های آینده بر اساس اعتقادات دینی، شرایط سلامتی یا نظرات سیاسی شود.

• پیشرفت در نانوتکنولوژی

این پیشرفت‌ها به چالش‌هایی برای مفهوم شخص قانونی منجر می‌شود، زیرا جهان علمی و فناوری به بعد قانونی تعریف‌شده فرد تجاوز می‌کند.

• اصول اخلاقی و قوانین حقوق بشر

با توجه به پیشرفت‌های تکنولوژیکی، حقوق بشر به عنوان اصل مرجعی برای مشروعیت اجتماعی مطرح می‌شود. این مشروعیت نباید فقط بر اساس امنیت یا کارایی اقتصادی پذیرفته شود، بلکه باید همیشه با متر دموکراسی و احترام به افراد سنجیده شود.

• نگرانی‌ها درباره تبعیض الگوریتمی

الگوریتم‌ها می‌توانند منجر به تبعیض‌های اجتماعی شوند، زیرا ظرفیت‌های محاسباتی AI می‌تواند تبعیض‌ها را تشدید کند. نیاز به توسعه اخلاق داده‌ها برای محدود کردن این خطرات وجود دارد.

• مثال‌هایی از کاربردهای AI و تبعیض
  1. سیستم‌های تشخیص چهره، به دلیل داده‌های ورودی متعصبانه، می‌توانند نژادهای خاص را به طور نادرست شناسایی کنند.
  2.ابزارهای ارزیابی ریسک در سیستم قضایی آمریکا، مانند COMPAS، می‌توانند تبعیض نژادی را تقویت کنند. تلاش‌هایی برای کاهش این تبعیض‌ها از طریق ابزارهای جدید مانند PSA در حال انجام است.
  
  
• پیشنهادات
  1. نیاز به یک چارچوب اخلاقی برای استفاده از AI وجود دارد که بر احترام به کرامت انسانی، امنیت فیزیکی و روانی تأکید داشته باشد. اتحادیه اروپا و ایالات متحده تلاش‌هایی برای توسعه این چارچوب‌ها دارند.
   2. مقاله تاکید می‌کند که پیشرفت‌های هوش مصنوعی باید با حفظ حقوق بشر و جلوگیری از تبعیض و نقض حریم خصوصی انجام شود.

نویسنده: ماریا استفانیا کاتالتا 

منبع: East-West Center، 2020

Cataleta, Maria Stefania. Humane Artificial Intelligence: The Fragility of Human Rights Facing AI. East-West Center, 2020. [Stable URL](https://www.jstor.org/stable/resrep25514)