به گفته محققان، مدل‌هاي هوش مصنوعي مولد سوگيري‌ها و كليشه‌هاي منفي را در كاربران خود رمزگذاري مي‌كنند.
اعتبار: Unsplash/CC0 دامنه عموميدر عرض چند ماه، مدل‌هاي مولد هوش مصنوعي، مانند ChatGPT، Bard Google و Midjourney، توسط افراد بيشتري به روش‌هاي مختلف حرفه‌اي و شخصي مورد استفاده قرار گرفته‌اند. اما تحقيقات رو به رشد تاكيد مي‌كند كه آنها سوگيري‌ها و كليشه‌هاي منفي را در كاربران خود رمزگذاري مي‌كنند، و همچنين اطلاعات به ظاهر دقيق اما بي‌معني توليد و منتشر مي‌كنند. نگران‌كننده است كه گروه‌هاي حاشيه‌نشين به‌طور نامتناسبي تحت تأثير جعل اين اطلاعات بي‌معني هستند.
علاوه بر اين، ساخت انبوه اين پتانسيل را دارد كه بر باور انسان تأثير بگذارد، زيرا مدل‌هايي كه آن را هدايت مي‌كنند، به طور فزاينده‌اي رايج مي‌شوند و شبكه جهاني وب را پر مي‌كنند. مردم نه تنها اطلاعات را از وب مي‌گيرند، بلكه بسياري از مواد آموزشي اوليه مورد استفاده مدل‌هاي هوش مصنوعي نيز از اينجا مي‌آيند. به عبارت ديگر، يك حلقه بازخورد پيوسته شكل مي‌گيرد كه در آن سوگيري‌ها و مزخرفات تكرار مي‌شوند و بارها و بارها پذيرفته مي‌شوند.
اين يافته‌ها - و درخواستي براي روانشناسان و متخصصان يادگيري ماشيني براي همكاري بسيار سريع براي ارزيابي مقياس اين موضوع و ابداع راه‌حل - امروز در Perspective در مجله Science منتشر شده است كه توسط Abeba Birhane نويسنده مشترك است . استاديار در دانشكده علوم كامپيوتر و آمار ترينيتي (با آزمايشگاه نرم افزار پيچيده ترينيتي كار مي كند) و عضو ارشد هوش مصنوعي قابل اعتماد در بنياد موزيلا.
پروفسور برهانه گفت: "افراد به طور منظم عدم قطعيت را از طريق عباراتي مانند "من فكر مي كنم"، تاخير در پاسخ، اصلاحات، و ناهمواري هاي گفتاري را بيان مي كنند. در مقابل، مدل هاي مولد پاسخ هاي مطمئن و روان و بدون بازنمايي عدم قطعيت و يا توانايي بيان عدم وجود آنها را ارائه مي دهند. در نتيجه، اين مي‌تواند باعث تحريف بيشتر در مقايسه با ورودي‌هاي انساني شود و منجر به پذيرش پاسخ‌ها به‌عنوان واقعيات واقعي شود.تبليغات كسب و كار
يكي از اين مثال‌ها كه در Perspective ارائه شده است، بر اين تمركز دارد كه چگونه قوانين آماري در يك مدل به متهمان سياه‌پوست امتيازات ريسك بالاتري اختصاص مي‌دهند. قضات دادگاه كه الگوها را آموخته‌اند، ممكن است شيوه‌هاي محكوميت خود را تغيير دهند تا با پيش‌بيني‌هاي الگوريتم‌ها مطابقت داشته باشند. اين مكانيسم اساسي يادگيري آماري مي‌تواند قاضي را به اين باور برساند كه سياه‌پوستان بيشتر احتمال دارد كه مجدداً مرتكب جرم شوند - حتي اگر استفاده از سيستم توسط مقرراتي مانند مقرراتي كه اخيراً در كاليفرنيا تصويب شده متوقف شود.
يكي از نگراني‌هاي ويژه اين واقعيت است كه به راحتي نمي‌توان سوگيري‌ها يا اطلاعات ساختگي را پس از پذيرفته شدن توسط يك فرد متزلزل كرد. كودكان به ويژه در معرض خطر بالايي قرار دارند، زيرا در برابر تحريف باورها آسيب پذيرتر هستند زيرا احتمال بيشتري دارد كه فناوري را انسان‌سازي كنند و راحت‌تر تحت تأثير قرار بگيرند.
آنچه مورد نياز است، تجزيه و تحليل سريع و دقيق است كه تأثير مدل هاي مولد را بر باورها و تعصبات انساني اندازه گيري كند .
پروفسور برهانه گفت: "مطالعات و مداخلات بعدي به طور مؤثر بر تأثيرات بر جمعيت هاي به حاشيه رانده شده متمركز خواهد بود كه به طور نامتناسبي تحت تأثير ساختگي ها و كليشه هاي منفي در خروجي هاي مدل قرار مي گيرند. منابع اضافي براي آموزش مردم، سياست گذاران و دانشمندان بين رشته اي مورد نياز است. براي ارائه ديدگاه‌هاي آگاهانه واقع بينانه از نحوه عملكرد مدل‌هاي هوش مصنوعي مولد و اصلاح اطلاعات نادرست و تبليغات موجود پيرامون اين فناوري‌هاي جديد."
برچسب: ،