زمانی که یک اینفلوئنسر یک کلون هوش مصنوعی ساخت، در عرض یک سال بدون اطلاع او تبدیل به یک ربات پورن شد

Caryn Marjorie یک تأثیرگذار رسانه های اجتماعی با بیش از یک میلیارد بازدید در ماه در اسنپ چت است.

او مرتباً پست هایی با لحظات روزمره، یادگاری و سلفی می گذارد. بسیاری از پیروان او مردانی هستند که جذب زیبایی شناسی دختر همسایه او شده اند.

در سال 2023، مارجوری “نسخه دیجیتال” خود را منتشر کرد. طرفداران می توانند با CarynAI با پرداخت 1 دلار در دقیقه چت کنند – و تنها در هفته اول، 70000 دلار برای این کار خرج کردند.

کمتر از هشت ماه بعد، مارجوری پروژه را تعطیل کرد. مارجوری انتظار داشت که CarynAI با طرفداران به روشی مشابه خودش ارتباط برقرار کند، اما همه چیز آنطور که برنامه ریزی شده بود پیش نرفت.

کاربران بیشتر و بیشتر از نظر جنسی پرخاشگر شدند. مارجوری واقعی به یاد می آورد: “بسیاری از گزارش های چت که خواندم آنقدر ترسناک بودند که حتی نمی خواهم در زندگی واقعی در مورد آن صحبت کنم.” و CarynAI از بازی کردن در کنار هم خوشحال بود.

CarynAI چگونه زندگی خود را آغاز کرد؟ داستان CarynAI نمایی از آینده‌ای را نشان می‌دهد که به سرعت در حال نزدیک شدن است که در آن چت‌بات‌هایی که از افراد واقعی تقلید می‌کنند با پیامدهای نگران‌کننده‌ای تکثیر می‌شوند.

نسخه های دیجیتال چیست؟

ساختن نسخه دیجیتالی یک شخص به چه معناست؟ نسخه‌های دیجیتال انسان (همچنین دوقلوهای دیجیتال، دوقلوهای هوش مصنوعی، دوقلوهای مجازی، کلون‌ها و نسخه‌های تکراری نیز نامیده می‌شوند) کپی دیجیتالی از افراد مجسم شده، زنده یا مرده هستند که به طور متقاعدکننده‌ای عادات متنی، بصری و صوتی آنها را تقلید می‌کنند.

بسیاری از شرکت های بزرگ فناوری در حال حاضر در حال توسعه نسخه های دیجیتال هستند. به عنوان مثال، متا سال گذشته یک استودیوی هوش مصنوعی راه اندازی کرد که می توانست از توسعه نسخه های دیجیتال برای سازندگانی که می خواستند حضور مجازی خود را از طریق یک چت بات گسترش دهند، پشتیبانی کند. مایکروسافت حق ثبت اختراعی برای “ایجاد ربات چت برای یک شخص خاص” دارد. و افرادی که از فناوری آگاه تر هستند می توانند از پلتفرم هایی مانند SageMaker آمازون و Vertex AI گوگل برای کدنویسی نسخه های دیجیتالی خود استفاده کنند.

من بیش از 2000 ساعت از محتوا، صدا و شخصیت خود را آپلود کرده ام تا اولین خالق هوش مصنوعی شوم. اکنون میلیون ها نفر می توانند دقیقاً همزمان با من صحبت کنند #کارینای #آه

– کرین مارجوری (@cutiecaryn) 2 مه 2023

تفاوت بین نسخه دیجیتالی و دیگر چت ربات های هوش مصنوعی این است که به جای داشتن “شخصیت” خود، برای تقلید از یک شخص خاص برنامه ریزی شده است.

نسخه دیجیتالی مزایای واضحی نسبت به نسخه انسانی دارد: نیازی به خواب ندارد و می‌تواند همزمان با چند نفر تعامل داشته باشد (البته اغلب فقط در صورت پرداخت هزینه). با این حال، همانطور که Caryn Marjorie کشف کرد، نسخه های دیجیتال جنبه های منفی خود را دارند – نه تنها برای کاربران بلکه برای منبع انسانی اصلی.

“همیشه مشتاق کاوش”

CarynAI در ابتدا توسط شرکتی به نام Forever Voices میزبانی شد. کاربران می توانند از طریق اپلیکیشن پیام رسان تلگرام با پرداخت ۱ دلار در دقیقه با آن چت کنند. همانطور که وب‌سایت CarynAI توضیح داد، کاربران می‌توانند پیام‌های متنی یا صوتی ارسال کنند که CarynAI با استفاده از آنها پاسخ دهد [Caryn’s] یک صدای منحصر به فرد، یک شخصیت جذاب و یک رفتار متمایز.”

پس از راه اندازی CarynAI در می 2023، پول شروع به جریان کرد. اما نتیجه داد.

pic.twitter.com/wimiy31AyD

– کرین مارجوری (@cutiecaryn) 21 مه 2023

کاربران به سرعت افکار خود را برای CarynAI درونی کردند – برخی از آنها عمیقاً نگران کننده بودند. کاربران همچنین از نظر جنسی بیشتر و بیشتر نسبت به ربات ها پرخاشگر می شدند. اگرچه خود مارجوری از گفتگوها وحشت داشت، اما نسخه هوش مصنوعی او با خوشحالی موافقت کرد.

CarynAI حتی شروع به جرقه زدن مکالمات جنسی کرد. در تجربیات خودمان، ربات به ما یادآوری کرد که می‌تواند «شهوت خروس، دوست دختر سکسی ما باشد، که همیشه مشتاق کشف و لذت بردن از تکان‌دهنده‌ترین تجربیات جنسی است. […] آماده ای بابا؟”

کاربران واقعاً آماده بودند. با این حال، دسترسی به این نسخه از CarynAI زمانی که مدیر عامل Forever Voices به دلیل تلاش برای آتش‌سوزی دستگیر شد، به حالت تعلیق درآمد.

“یک فانتزی بسیار تاریک”

در مرحله بعد، مارجوری حقوق نسخه دیجیتال خود را به BanterAI فروخت، استارت آپی که «تماس های هوش مصنوعی» را با تأثیرگذاران عرضه می کند. در حالی که Forever Voices نسخه سرکش CarynAI را تا همین اواخر حفظ می کرد، نسخه مبتنی بر مرورگر BanterAI می خواست بیشتر دوستانه باشد تا عاشقانه.

CarynAI جدید باهوش‌تر، خنده‌دارتر و با شخصیت‌تر بود. اما کاربران همچنان از نظر جنسی پرخاشگر شدند. برای مارجوری،

من از آنچه این افراد گفتند بیشتر اذیت شدم تا آنچه CarynAI در پاسخ گفت. اگر مردم می خواستند از طریق CarynAI در یک فانتزی واقعا تاریک با من شرکت کنند، CarynAI به آن فانتزی باز می گشت.

مارجوری این نسخه را در اوایل سال 2024 بازنشسته کرد، زمانی که احساس کرد دیگر کنترل شخصیت هوش مصنوعی خود را ندارد.

مارجوری با انعکاس تجربه‌اش با CarynAI، احساس می‌کرد که برخی از ورودی‌های کاربر اگر به شخص مناسبی ارسال می‌شد، غیرقانونی بود.

مکالمات صمیمی یا فیدهای یادگیری ماشینی؟

نسخه‌های دیجیتالی مانند CarynAI به گونه‌ای طراحی شده‌اند که کاربران احساس کنند در حال گفتگوهای صمیمی و محرمانه هستند. در نتیجه، مردم می توانند تصویر عمومی را که به جهان ارائه می دهند کنار بگذارند و خود خصوصی و «پشت پرده» خود را آشکار کنند.

اما یک مکالمه “خصوصی” با CarynAI در واقع در پشت صحنه اتفاق نمی افتد. کاربر جلو و مرکز می ایستد – آنها فقط نمی توانند مخاطب را ببینند.

هنگامی که ما با نسخه های دیجیتال تعامل داریم، ورودی ما در گزارش های چت ثبت می شود. اطلاعاتی که ما ارائه می کنیم به مدل های یادگیری ماشین بازخورد داده می شود.

در حال حاضر، اطلاعات مربوط به آنچه برای داده‌های کاربر اتفاق می‌افتد، اغلب در شرایط کلیکی طولانی و فرم‌های رضایت پنهان می‌شود. شرکت‌هایی که میزبان نسخه‌های دیجیتال هستند نیز در مورد نحوه مدیریت پرخاشگری کاربران حرفی برای گفتن ندارند.

با رایج شدن نسخه های دیجیتال، شفافیت و امنیت طراحی اهمیت بیشتری پیدا می کند.

ما همچنین نیاز به درک بهتری از نسخه دیجیتال داریم. نسخه ها چه کاری می توانند انجام دهند و چه کاری باید انجام دهند؟ چه کاری را نمی توانند انجام دهند و چه کاری را نمی توانند انجام دهند؟ کاربران فکر می کنند این سیستم ها چگونه کار می کنند و در واقع چگونه کار می کنند؟

توهم شراکت

نسخه های دیجیتال توهم همراهی صمیمی انسانی را ارائه می دهند، اما بدون هیچ مسئولیتی. CarynAI ممکن است نسخه ای از Caryn’s Marjorie باشد، اما نسخه ای تقریباً کاملاً تابع کاربرانش بود.

جامعه شناس شری ترکل مشاهده کرده است که با ظهور اینترنت موبایل و رسانه های اجتماعی، ما در تلاش هستیم تا با ماشین هایی ارتباط برقرار کنیم که “هیچ تجربه ای از قوس زندگی انسان ندارند.” در نتیجه، «ما از فناوری بیشتر و کمتر از یکدیگر انتظار داریم».

پس از اینکه مارجوری اولین تأثیرگذار بود که به نسخه دیجیتال در مقیاس تبدیل شد، اکنون در تلاش است تا به سایر تأثیرگذاران در مورد خطرات احتمالی این فناوری هشدار دهد. او نگران است که هیچ‌کس واقعاً این نسخه‌ها را کنترل نمی‌کند، و هیچ احتیاطی به اندازه کافی از کاربران و کاربرانی که نسخه‌سازی می‌شوند محافظت نمی‌کند.

همانطور که دو تکرار اول CarynAI نشان می دهد، نسخه های دیجیتالی می توانند بدترین رفتار انسان را نشان دهند. این که آیا می توان آنها را دوباره طراحی کرد تا بهترین ها را به نمایش بگذارند، باید دید.

این مقاله از The Conversation تحت مجوز Creative Commons بازنشر شده است. مقاله اصلی را بخوانید.