چت جیپیتی[۱](Chat GPT): در حقوق بشر چه چیزی از فرد باقی مانده است؟[۲]
César Rodríguez-Garavito
مترجم: کتایون اشرفی
دانشجوی دکتری حقوق بینالملل دانشگاه علامه طباطبایی
ویراستار: دکتر محمد شریف
عضو هیئت علمی دانشگاه علامه طباطبایی
پنجر چت جیپیتی را باز میکنم و از آن میخواهم مقالهای ۱۰۰۰ کلمهای برای وبسایت open global rights بنویسد که سه فرصت و سه چالشی که هوش مصنوعی برای حقوق بشر ایجاد میکند، در آن مورد بررسی قرار گرفته باشد. برای ارائه پاسخ درنگ میکند؛ گویی در حال تجزیه و تحلیل است. پس از درنگ اندکی پاسخی قاطع ارائه میدهد که طنین آن حاکی از اعتماد به صحت پاسخ دارد:«چت جیپیتی پیش از این تاثیر قابل توجهی بر دنیای حقوق بشر گذاشته است».
من از این که این پدیده مولود فناوری نوین چقدر اعتماد به نفس دارد و به شیوه برخی از سیاستمداران در چارچوب سوم شخص به خودش اشاره میکند، شگفتزده شدهام. اما باید اعتراف کنم که چقدر پاسخ درست بود. اگر این پاسخ توسط دانشآموزی در یک آزمون داده شده بود، بدون تردید به او نمره خوبی میدادم.
شاید آن ابهام – آن آمیزهای از شیفتگی و غریبگی که بسته به موضوع و دوره با مقادیر مختلفی از بدگمانی و ترس آمیخته شده– گفتمانی است که بر بحث تازه شکل گرفته(در حال ظهور) در رابطه با مفاهیم حقوق بشر مدلهای زبانی مانند چت جیپیتی غالب شده است. این امر در مقالاتی که ابتدا وبسایت open global rights راجع به این موضوع در مجموعه خود به آن پرداخته، نشان داده شده است: هوش مصنوعی مولد میتواند اطلاعات نادرست و دروغهای آنلاین را افزایش دهد اما همچنین ابزاری قدرتمند برای اعمال قانونی آزادی بیان باشد؛ بسته به این که از آن برای نظارت بر حقوق مهاجران و پناهندگان استفاده شود یا برای کشف الگوهای سوءاستفاده از آنها، میتواند از حقوق آنها محافظت کرده یا آن را تضعیف کند و میتواند برای گروههایی که به طور سنتی به حاشیه رانده شدهاند، مفید باشد اما همچنین ممکن است خطرات تبعیض علیه جامعه دگرباشان جنسی را افزایش دهد؛ چرا که هویتهای سیال آن اغلب در جعبههای الگوریتمی هوش مصنوعی قرار نمیگیرد.
من درهمآمیختگی مشابهی را در پاسخ چت جیپیتی احساس میکنم که با توجه به این که یک مدل زبان است که ایدههای مشترک انسانها را در وب ترکیب میکند(برخی میگویند سرقت میکند)، قابل انتظار است. جیپیتی سه مورد از سهم فناوری خود در حقوق بشر را به ترتیب برجسته میکند: دسترسی بیشتر به اطلاعات، ترجمه بهتر بین زبانها و تجزیه و تحلیل دادهها و پیشبینی گرایشات در مورد موضوعات مرتبط. همه این موارد پیشرفتهایی هستند که بررسی و گزارش نقض حقوق در سراسر جهان را تسهیل میکنند و با سه خطر محصور میشود: ممکن است سوگیریهای اطلاعاتی را که دریافت میکند، بازگو کند؛ از طریق استفاده از دادههای شخصی، حریم خصوصی را نقض کند و این که خود را در معرض سوءاستفاده قرار دهد. چرا که درک و تجزیه و تحلیل چت جیپیتی ممکن است مشکل باشد و این امر، پاسخگو تلقی کردن کسانی که مسئول استفاده از آن هستند را چالش برانگیز میکند. توجه داشته باشید که مسئولیت کاربران مد نظر است، نه شرکتهایی که این فناوری را ایجاد کردهاند و هنوز تمایلی به افشای آنچه درباره نحوه عملکرد آن میدانند و نمیدانند، ندارند. شاید آنها طوری کودک را برنامهریزی کردهاند که والدین خود را انکار نکند.
در حالی که این اثرات مهم هستند، تحلیلگران چه انسانی و چه مجازی، تمایل به ثبت زلزله دارند؛ در صورتی که صفحات تکتونیکی که زیر سطح در حال جابهجایی هستند را از دست میدهند. در واقعیت، هوش مصنوعی مولد نه تنها تاثیرات شناخته شده را تشدید میکند بلکه مقولههای اساسی را که به حقوق بشر معنا میبخشد، زیر سوال میبرد.
فقط کافی است پاسخ چت جیپیتی را جهت آشکار کردن برخی از این مسائل، موشکافی کنید. “چت جیپیتی” این پتانسیل را دارد که دسترسی به اطلاعات را برای افرادی فراهم کند که در غیر این صورت، ممکن بود آن را نداشته باشند. طوری به من میگوید که انگار از شخص دیگری صحبت میکند. “چت جیپیتی با ارائه اطلاعات دقیق و به موقع، میتواند به مردم در تصمیمگیری آگاهانه و اقدام برای محافظت از حقوق خود کمک کند.”
چیزی که دستیار مجازی جدید من به آن اشاره نمیکند این است که قدرت ماورایی او، هم برای اطلاعات صحیح خوب است و هم اطلاعات نادرست. همان بازیگران و شرکتهایی که دروغهایی را که آزادیها و حقوق بشر را متزلزل کرده است، ساخته و منتشر کردهاند، اکنون این کار را در مقیاسی بینهایت بزرگتر انجام داده و مرز بین درست یا نادرست را بیشتر محو میکنند و این، خطر فوری هوش مصنوعی آزاد و بدون قاعده است. اگر فضای عمومی مملو از متون بیعیب و نقص و در عین حال نادرست یا تصاویر و ویدئوهای معتبر و دروغین باشد، تاکتیک حقوق بشری که از گذشته به آن احترام گذاشته شده است، یعنی بیان حقیقت به قدرت نیز از بین خواهد رفت. مدلهایی مانند چت جیپیتی طوطیهایی تصادفی نیستند، بلکه هکرهای بالقوه قواعد دستوری زبان بشر هستند که در آنها حقوق و همه هنجارها و باورهای خود را درک کردهایم.
نکتهای که ما را به نقطه کور دیگر بحث میرساند: دگرگونی انسان در حقوق بشر. تاکید بحث چت جی پی تی بر روی حقوقی بود که تحت تأثیر فناوری جدید قرار گرفته است. اما سوال پیچیدهتر و جذابتر مربوط به شخص است، خط جداکننده بین انسانها و غیرانسانها به عنوان موضوع این حقوق. این گفتوگو در حال حاضر در زمینهها و جریانات دیگر، از فلسفه ذهن گرفته تا نظریه اطلاعات برای سایبرنتیک[۳]، ارتباطات و فراانسانگرایی به خوبی تثبیت شده است. یکی از درخشانترین تحلیلگران آن، مگان اوگیبلین، تناقضی که ما در آن قرار گرفتهایم را به طور دقیق خلاصه میکند: هر قدر که هوش مصنوعی همچنان در معیارهای شناخت از ما پیشی میگیرد، ما با اصرار بر این که آنچه آگاهی واقعی را متمایز میکند، عواطف، ادراک، توانایی تجربه و احساس است، اضطراب خود را کم میکنیم. به عبارت دیگر ویژگیهایی که در آنها با حیوانات مشترک هستیم. من شک دارم که حداقل در حال حاضر چت جیپیتی بتواند مانند اوگیبلین عمیق نگاه کند.
از این رو انسانمداری که الهامبخش حقوق مدرن است، با به رسمیت شناختن تعلق انحصاری این حقوق به انسان از سوی دیدگاههای بسیار متفاوتی به چالش کشیده میشود. در حالی که برخی شروع به پیشنهاد دادن برخی حقوق به هوش مصنوعی میکنند، دیگران (از جمله خود من) پیشنهاد میکنند که دایره حقوق گسترده شود تا هوش طبیعی حیوانات، گیاهان، قارچها و اکوسیستمها را در بر گیرد.
تا زمانی که به این سوالات نپردازیم، حقوق بشر ممکن است برای جهانی که نه تنها به دلیل هوش مصنوعی بلکه به دلیل شرایط اضطراری آب و هوا، تغییرات ژئوپلیتیکی و دموکراسیهای رو به عقب، مشوش و متحول شده، حرف زیادی برای گفتن نداشته باشد. در مقابل، چت جیپیتی مطمئنا حرفهای زیادی برای گفتن خواهد داشت.[۴]
[۱] https://www.openglobalrights.org/chatgpt-whats-left-human-rights/
[2] چت چیپیتی (ChatGPT) یک سیستم هوش مصنوعی است که برای پاسخ دادن به سوالات کاربران و گفتوگو با آنها، طراحی شده است. ChatGPT از مدل زبانی Transformer برای تولید پاسخهای معنادار و پاسخهای طبیعی استفاده میکند. این سیستم با توجه به پرسش کاربر، با استفاده از الگوریتمهای هوش مصنوعی، پاسخ مناسبی به کاربر ارائه میدهد. چت جیپیتی (ChatGPT) در ابتدا توسط شرکت OpenAI به عنوان یک راه حل برای پاسخگویی به سوالات کاربران راهاندازی شد.
[۳] مناسبات انسان و ماشین و ماشینها با یکدیگر
[۴] ویراستار ادبی: صادق بشیره(گروه پژوهشی آکادمی بیگدلی)