دنیا الان خیلی فرق کرده زیرا انسان در دستان فانی خود این قدرت را دارد که هر گونه فقر انسانی و تمام اشکال زندگی انسانی را از بین ببرد.
جان اف کندی
انسان ها چیزهای زیادی یاد گرفته اند که زندگی ما را تغییر داده، تمدن ما را ایجاد کرده و ممکن است در نهایت همه ما را بکشد. امسال یکی دیگر را اختراع کرده ایم.
هوش مصنوعی حداقل 50 سال است که وجود دارد. سال گذشته، تعدادی از اپلیکیشن‌های خاص هوش مصنوعی توجه همگان را به خود جلب کردند زیرا هوش مصنوعی سرانجام از عصر برنامه‌های کاربردی محدود به ارائه ابزارهای متحول کننده و مفید رفت – Dall-E برای ایجاد تصاویر از پیام‌های متنی، Github Copilot به عنوان دستیار برنامه‌نویسی جفت، AlphaFold برای محاسبه. شکل پروتئین ها و ChatGPT 3.5 به عنوان یک چت بات هوشمند. این برنامه‌ها سرآغاز ابزارهایی هستند که اغلب تصور می‌شد ابزارهای خاص دامنه هستند. اکثر مردم (از جمله خودم) معتقد بودند که نسخه‌های بعدی این برنامه‌ها و ابزارهای هوش مصنوعی پیشرفت‌های تدریجی خواهند داشت.
ما خیلی خیلی اشتباه کردیم
امسال، با راه‌اندازی ChatGPT-4، چیزی با تأثیر اجتماعی برابر دیدیم: مواد منفجره، رسانه‌های جمعی، رایانه‌ها، DNA نوترکیب/CRISPR، و سلاح‌های هسته‌ای همه در یک برنامه. اگر با ChatGPT-4 بازی نکرده‌اید، به اینجا سر بزنید و چند دقیقه وقت بگذارید تا این کار را انجام دهید. به طور جدی.
اولاً، ChatGPT یک مکالمه‌گر بسیار باهوش (و نویسنده تکالیف و تست‌کننده) است. با این حال، این اولین بار نرم افزار است تبدیل شود رقابت در بسیاری از وظایف عمومی. (لینک ها را ببینید و توجه داشته باشید که بازگشتی وجود ندارد.) این سطح از عملکرد کاملا غیرمنتظره بود. حتی توسط سازندگان آن.
علاوه بر عملکرد عالی در کاری که برای انجام آن طراحی شده است، چیزی که محققان را در مورد ChatGPT شگفت زده کرده است، رفتار ظاهری آن است. این یک اصطلاح فانتزی است که به معنای “ما آن را برای انجام آن نساختیم، و ما هیچ ایده ای نداریم که چگونه می داند چگونه این کار را انجام دهد.” اینها رفتارهایی هستند که در مدل های قبلی هوش مصنوعی کوچک وجود نداشتند، اما اکنون در مدل های بزرگ مانند GPT-4 وجود دارند. (محققان بر این باورند که این نقطه عطف نتیجه تعاملات پیچیده بین معماری شبکه عصبی و حجم عظیمی از داده‌های آموزشی است که در معرض آن قرار گرفته است – تقریباً همه چیزهایی که تا سپتامبر 2021 در اینترنت وجود داشت.)
(یکی دیگر از پتانسیل های نگران کننده ChatGPT توانایی آن برای دستکاری افراد به باورهایی است که درست نیستند. اگرچه ChatGPT “واقعا هوشمندانه به نظر می رسد”، گاهی اوقات فقط چیزهایی را درست می کند و می تواند شما را در مورد چیزی متقاعد کند حتی زمانی که واقعیت ها درست نیستند. ما” این تأثیر را در رسانه‌های اجتماعی دیده‌ایم، زمانی که انسان‌ها باورها را دستکاری می‌کنند.
اما این همه ماجرا نیست.
باز کردن جعبه پاندورا
تا به حال، ChatGPT محدود به چت باکسی بود که کاربر با آن تعامل داشت. اما OpenAI (شرکتی که ChatGPT را توسعه داد) به ChatGPT اجازه می دهد تا از طریق یک API (رابط برنامه نویسی برنامه) به برنامه های دیگر دسترسی پیدا کند و با آنها تعامل داشته باشد. در تجارت، محصول محصول را به محصولی فوق العاده موثر تبدیل می کند. کاربرد حتی فوق العاده قدرتمندتر شاسی که سایر توسعه دهندگان نرم افزار می توانند به آن بپیوندند و بر اساس آن بسازند.
با قرار دادن ChatGPT در معرض ورودی و بازخورد گسترده‌تر از طریق API، توسعه‌دهندگان و کاربران تقریباً تضمین می‌کنند که ویژگی‌ها یا برنامه‌های جدیدی را برای مدل کشف کنند که در ابتدا پیش‌بینی نشده بود. (این ایده که یک برنامه می تواند داده های بیشتری بخواهد و خود کد را برای انجام آن بنویسد کمی گیج کننده است. تقریباً مطمئناً منجر به رفتارهای جدیدتر، غیرمنتظره و نوظهورتر می شود.) برخی از این برنامه ها در حال ایجاد صنایع جدید و جدید هستند. شغل ها. برخی صنایع و مشاغل موجود را منسوخ می کنند. و درست مانند اختراع آتش، مواد منفجره، ارتباطات جمعی، محاسبات، DNA نوترکیب/CRISPR و سلاح های هسته ای، عواقب واقعی آن ناشناخته است.
باید اهمیت بدی؟ آیا باید نگران بود؟
اول، شما باید کاملا اهمیت دهید.
در طول 50 سال گذشته، من خوش شانس بودم که در ایجاد اولین ریزپردازنده ها، اولین رایانه های شخصی و اولین برنامه های کاربردی شبکه تجاری مشارکت داشتم. من از طریق انقلاب در ارتباطات راه دور، علوم زیستی، رسانه های اجتماعی و غیره زندگی کرده ام و شاهد ظهور صنایع، بازارها و مشتریان جدید به معنای واقعی کلمه یک شبه بوده ام. با ChatGPT ممکن است یکی دیگر را ببینم.
یکی از مشکلات فناوری مخرب این است که اختلال همراه با یادداشت نیست. تاریخ پر از روزنامه نگارانی است که در مورد آن می نویسند و آن را تشخیص نمی دهند (مثلاً نیویورک تایمز اختراع ترانزیستور را در صفحه 46 قرار می دهد) یا دیگرانی که آنچه را که می بینند نمی فهمند (مثلاً مدیران زیراکس اختراع شخصی مدرن را نادیده می گیرند. کامپیوتر با رابط کاربری گرافیکی و شبکه در مرکز تحقیقاتی پالو آلتو آنها). اکثر مردم به صورت d عظیم خیره شده اند
مزاحم بود و آن را تشخیص نداد زیرا برای آنها یک اسباب بازی به نظر می رسید.
دیگران به همین فناوری نگاه می کنند و متوجه می شوند که جهان دیگر در همان لحظه نیست (مثلاً استیو جابز در زیراکس). ممکن است امروز یک اسباب بازی باشد، اما آنها می‌دانند که چه اتفاقی ناگزیر رخ خواهد داد، زیرا فناوری مقیاس‌پذیرتر می‌شود، اصلاح می‌شود و ده‌ها هزار نفر از افراد خلاق برنامه‌های کاربردی را روی آن می‌سازند – آنها بلافاصله می‌فهمند که دنیا تغییر کرده است.
ما به احتمال زیاد این را در اینجا خواهیم دید. برخی فوراً اهمیت ChatGPT را دریافت می کنند. دیگران این کار را نمی کنند.
شاید باید یک نفس عمیق بکشیم و به این موضوع فکر کنیم؟
برخی از مردم نگران عواقب ChatGPT و برنامه های کاربردی دیگر مانند AGI هستند و معتقدند که ما در حال عبور از روبیکون هستیم – نقطه بی بازگشت. آنها یک تعلیق شش ماهه برای آموزش سیستم های هوش مصنوعی پیشنهاد کرده اند قوی تر مانند ChatGPT-4. دیگران این ایده را مضحک می دانند.
دانشمندان مدت‌هاست که نگران آنچه منتشر کرده‌اند هستند. در ایالات متحده، دانشمندانی که روی توسعه بمب اتمی کار می کردند، کنترل غیرنظامی سلاح های هسته ای را پیشنهاد کردند. پس از جنگ جهانی دوم در سال 1946، دولت ایالات متحده به طور جدی کنترل بین المللی توسعه سلاح های هسته ای را در نظر گرفت. و تا همین اواخر، اکثر کشورها با معاهده منع گسترش سلاح های هسته ای موافقت کردند.
در سال 1974، زیست شناسان مولکولی وقتی متوجه شدند که ابزارهای ویرایش ژنتیکی تازه کشف شده (فناوری DNA نوترکیب) می توانند ژن های ایجاد کننده تومور را در باکتری E.Coli وارد کنند، نگران شدند. این نگرانی وجود داشت که بدون شناسایی مخاطرات زیستی و بدون بهترین شیوه های امنیت زیستی توافق شده، خطر واقعی ایجاد و انتشار تصادفی چیزی با عواقب جدی وجود دارد. آنها خواستار توقف داوطلبانه آزمایش DNA نوترکیب شدند تا زمانی که بتوانند در مورد بهترین شیوه ها در آزمایشگاه ها به توافق برسند. در سال 1975، آکادمی ملی علوم ایالات متحده از کنفرانس موسوم به Asilomar حمایت کرد. در اینجا، زیست شناسان دستورالعمل هایی را برای سطوح ایزوله ایمنی آزمایشگاهی بسته به نوع آزمایش، و همچنین فهرستی از آزمایش های ممنوع (شبیه سازی چیزهای مضر برای انسان، گیاهان و حیوانات) تهیه می کنند.
تا همین اواخر، این قوانین اکثر حوادث آزمایشگاهی بیولوژیکی را تحت کنترل نگه داشته است.
سلاح‌های هسته‌ای و مهندسی ژنتیک طرفدار آزمایش‌های نامحدود و نظارت بدون مانع بودند. بگذار علم به هر جایی که می رود برود. با این حال، حتی این کنترل های حداقلی نیز جهان را به مدت 75 سال از بلایای احتمالی در امان نگه داشته است.
اقتصاددانان گلدمن ساکس پیش بینی می کنند که آخرین موج هوش مصنوعی می تواند بر 300 میلیون شغل تأثیر بگذارد. دیگر اقتصاددانان به تازگی به اثر موجی این فناوری پی برده اند. همزمان، استارت‌آپ‌های جدیدی در حال ظهور هستند و سرمایه‌های مخاطره‌آمیز هم‌اکنون با سرعتی سرسام‌آور پول را به صنعت سرازیر می‌کنند و تنها تأثیر این نسل از هوش مصنوعی را تسریع می‌کنند. وکلای مالکیت فکری در حال حاضر در حال بحث هستند که چه کسی مالک داده هایی است که این مدل های هوش مصنوعی بر اساس آن ها ساخته شده اند. دولت ها و سازمان های نظامی با پیامدهایی که این فناوری در حوزه های دیپلماتیک، اطلاعاتی، نظامی و اقتصادی خواهد داشت، دست و پنجه نرم می کنند.
اکنون که جن از بطری خارج شده است، بی دلیل نیست که از محققان هوش مصنوعی بخواهیم 6 ماه وقت بگذارند و از الگویی پیروی کنند که دیگر دانشمندان متفکر و نگران قبلا انجام دادند. (استنفورد نسخه ChatGPT خود را به دلایل ایمنی حذف کرد.) دستورالعمل‌هایی برای استفاده از این فناوری، شاید در کنار دستورالعمل‌هایی برای آزمایش‌های ویرایش ژنتیکی – ارزیابی خطر برای انواع آزمایش‌ها و سطوح حفاظت از امنیت زیستی متناسب با خطر، توسعه یابد.
برخلاف تعلیق‌های تسلیحات اتمی و مهندسی ژنتیک، که ناشی از نگرانی‌های دانشمندان بدون انگیزه سودآوری بود، توسعه مستمر و تأمین مالی هوش مصنوعی مولد توسط شرکت‌های انتفاعی و سرمایه‌گذاری خطرپذیر هدایت می‌شود.
به دنیای جدید شجاع ما خوش آمدید.
یاد گرفت
- توجه کنید و دست نگه دارید
- سواری پر دست انداز پیش رو داریم
- ما به یک کنفرانس Asilomar برای هوش مصنوعی نیاز داریم
- شرکت های انتفاعی و شرکت های سرمایه گذاری خطرپذیر علاقه مند به سرعت بخشیدن به این سرعت هستند
ثبت شده در: فناوری |
