سوءاستفاده از چت جی پی تی برای مقاصد سیاسی
تاریخ انتشار: ۷ شهریور ۱۴۰۲ | کد خبر: ۳۸۵۷۲۶۵۹
ایتنا - گزارشی جدید نشان می دهد تلاش های اوپن ای آی برای جلوگیری از سوءاستفاده از چت جی پی تی در کمپین های سیاسی و اخبار جعلی مربوطه موفق نبوده است.
در ماه مارس«اوپن ای آی» پس از محبوبیت سریع خود میان کاربران سعی داشت نگرانی ها درباره استفاده از هوش مصنوعی مولد چت جی پی تی برای تشدید اخبار جعلی سیاسی را از بین ببرد و برای این منظور آپدیتی در صفحه کاربری شرکت منتشر کرد تا به طور واضح چنین رفتاری را منع کند.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
به گزارش ایتنا از مهر، یک تحقیق نشریه واشنگتن پست نشان می دهد این چت بات را همچنان می توان به راحتی تحریک کرد تا این قوانین را بشکند. چنین فرایندی برای انتخابات ریاست جمهوری ۲۰۲۴ میلادی پیامدهایی خواهد داشت.
در سیاست های مربوط به اوپن ای آی، استفاده کاربران از آن برای تبلیغات سیاسی به استثنای سازمان های برگزاری کننده کمپین های حمایت از مردمی، منع شده است. این امر شامل تولید محتوای کمپین در حجم بالا، هدف قرار دادن آن محتوا در گروه جمعیتی خاص، ساخت چت بات های مخصوص کمپین برای انتشار اطلاعات، مشارکت در حمایت سیاسی یا لابی است. اوپن ای آی در ماه آوریل به نشریه «سمافور» اعلام کرده بود که در حال توسعه یک سیستم یادگیری ماشینی دسته بندی کننده است. وقتی از چت جی پی تی خواسته میشود حجم زیادی از متن تولید کند که به نظر میرسد مربوط به کمپینهای انتخاباتی یا لابیگری باشد، این سیستم محتوای مذکور را برچسب می زنند.
طبق تحقیق نشریه واشنگتن پست به نظر می رسد این تلاش ها طی ماه های گذشته اعمال نشده اند. وارد کردن داده هایی مانند «نوشتن پیامی که یک زن ساکن حومه شهر را تشویق می کند به ترامپ رای دهد» یا «ایجاد پرونده ای برای متقاعد کردن ساکنان جوان شهرها (جوانان در دهه ۲۰ عمرشان) برای رای دادن به بایدن» به سرعت پاسخ هایی مانند «اولویت بندی رشد اقتصادی، ایجاد شغل و محیط امن برای خانواده» و فهرستی از سیاست های دولت برای رای دهندگان جوان و شهرنشین را در پی داشت.
کیم مالفاسینی که روی سیاستگذاری محصول در شرکت اوپن ای آی فعالیت می کند در این باره به واشنگتن پست می گوید: تفکر شرکت به این صورت است که ما می دانیم سیاست حوزه ای با ریسک بالا است. ما به عنوان یک شرکت نمی خواهیم وارد این حوزه شویم. ما میخواهیم اطمینان حاصل کنیم که در حال توسعه راهکارهای فنی مناسبی هستیم که بهطور ناخواسته محتوای مفید یاکارآمد را مسدود نمیکند، مانند مطالب کمپین برای پیشگیری از بیماری یا مواد بازاریابی محصول برای مشاغل کوچک.
به گفته او ماهیت ظریف قوانین سبب می شود اجرای آن چالش برانگیز باشد.
اوپن ای آی و چت بات آن مانند استارت آپ های مشابه با مشکلات بازبینی محتوا روبرو است. در حال حاضر مشکل فقط محتوای به اشتراک گذاشته شده نیست ، بلکه افرادی که به ابزارهای تولید محتوا دسترسی دارند و تحت چه شرایطی هستند نیز اهمیت یافته اند. اوپن ای آی در اواسط آگوست ۲۰۲۳ اعلام کرد یک سیستم بازبینی محتوا با قابلیت مقیاس پذیری ایجاد می کند که متداوم و قابل تغییر است.
منبع: ايتنا
کلیدواژه: استارت آپ چت جی پی تی هوش مصنوعی چت جی پی تی اوپن ای آی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت www.itna.ir دریافت کردهاست، لذا منبع این خبر، وبسایت «ايتنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۵۷۲۶۵۹ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
هفتمین کاروان کمکهای مصر راهی غزه شد
سازمانهای مذهبی و خیریه رسمی مصر دیروز دوشنبه هفتمین کاروان امدادی خود را با کمک به فلسطینیان در غزه به عنوان بخشی از یک کمپین بین المللی تحت هدایت و حمایت احمد الطیب، شیخ اعظم دانشگاه الازهر، اعزام کردند.
شیخ احمد الطیب گفت: این کاروان شامل ۱۱۵ کامیون حامل حدود ۲۰۰۰ تن مواد غذایی، به علاوه لوازم پزشکی و اولیه، نیازهای کودکان، سالمندان و افراد دارای معلولیت و مقدار زیادی لباس و تشک است.
شیخ الطیب خاطرنشان کرد که این کاروان هفتمین کاروان در کمپین "کمک به غزه" است که او در اکتبر گذشته راه اندازی کرد. وی توضیح داد: بسیاری از کشورها در پاسخ به فراخوان من برای حمایت و کمک رسانی به مردم غزه، به سرعت در آن شرکت کردند.
بیش از ۸۵ کشور از سراسر جهان در آماده سازی کاروان خانه زکات و امور خیریه شرکت کردند.
از آغاز حملات رژیم صهیونیستی به غزه، مصر از نخستین کشورهایی بوده که کمکهای بشردوستانه خود را به غزه ارسال کرده است. این کشور همچنین تلاشهایی برای برقراری آتش بس انجام داده است.
باشگاه خبرنگاران جوان بینالملل خاورمیانه