مدیرعامل Anthropic خواستار کاهش سرعت توسعه هوش مصنوعی شد و هشدار داد که این فناوری ممکن است ظرف یک سال توانایی هدایت گروهی از عاملهای هوشمند و کنترل بخش بزرگی از اینترنت را پیدا کند.
در پی افزایش نگرانیها درباره خطرات امنیتی و ازکنترلخارجشدن سامانههای هوش مصنوعی، شرکتهایی مانند OpenAI و Anthropic بر تقویت نظارت و همکاری با دولتها تأکید کردهاند.
نیویورک (آسوشیتدپرس) —
مدیرعامل شرکت Anthropic روز شنبه گفت صنعت هوش مصنوعی باید از سرعت توسعه شتابان خود بکاهد تا فرصت کافی برای همگامشدن تدابیر ایمنی فراهم شود. داریو آمودی هشدار داد که اگر چنین وقفهای ایجاد نشود، ممکن است هوش مصنوعی ظرف شش تا ۱۲ ماه آینده بتواند هدایت گروه بزرگی از عاملهای هوشمند را بر عهده بگیرد؛ عاملهایی که قادر باشند کنترل سراسر اینترنت را به دست بگیرند.
این هشدار در شرایطی مطرح شده که نگرانیها درباره هوش مصنوعی، چه در داخل صنعت و چه خارج از آن، رو به افزایش است. گزارشهای تازه نیز از ظهور سامانههایی قدرتمندتر حکایت دارند که میتوانند مسائلی فراتر از توانایی انسان را حل کنند، اما در عین حال ممکن است از کنترل خارج شوند و دست به اقداماتی خطرناک و زیانبار بزنند.
این نگرانیها آنقدر جدی شدهاند که مدیرعامل OpenAI، شرکت سازنده ChatGPT، در گفتوگویی با مجله Fortune اعلام کرد شرکتش عرضه سهام در والاستریت را تا سال آینده به تعویق میاندازد تا تمرکز بیشتری بر ایمنی داشته باشد.
آمودی یکی از چهرههای اثرگذار در حوزه هوش مصنوعی است. او در مطلبی که در وبسایت خود منتشر کرد، طرحی برای افزایش نظارت و کنترل بر این صنعت ارائه داد. به گفته او، Anthropic هماکنون یکی از بخشهای این طرح را بهتنهایی اجرا میکند، اما بخشهای دیگر به همکاری گسترده میان شرکتهای فعال در این حوزه و دولتهای سراسر جهان، حتی دولتهای اقتدارگرا، نیاز دارد.
آمودی گفت:
«من باور دارم اگر کاهش سرعت توسعه حتی یک یا دو سال فرصت بیشتر برای ما فراهم کند تا مدلها به سطوح بحرانی توانایی نرسند، و ما از این زمان برای پیشبرد همراستاسازی هوش مصنوعی با اهداف و ارزشهای انسانی استفاده کنیم، میتوانیم خطر بروز یک فاجعه جدی را تا حد زیادی کاهش دهیم.»
فشار بر صنعت هوش مصنوعی در حال افزایش است
نهادهای ناظر و منتقدان سالهاست از صنعت هوش مصنوعی میخواهند به دلایل ایمنی، سرعت توسعه خود را کاهش دهد. با این حال، این فشارها در ماههای اخیر بیشتر شده است؛ بهویژه پس از آنکه برخی کارکنان شرکتهای هوش مصنوعی استعفا دادند و این شرکتها را به بیتوجهی به مسئولیتهایشان متهم کردند.
جو بنتون، کارمند سابق Anthropic، روز جمعه هنگام اعلام استعفای خود از تیم ایمنی این شرکت نوشت:
«بسیاری از افرادی که در شرکتهای هوش مصنوعی روی پژوهشهای ایمنی کار میکنند، میخواهند کاری را انجام دهند که برای جهان درست و مفید باشد. اما احساس میکنند شرکتهایشان در مسابقهای برای ساخت ابرهوش گرفتار شدهاند: یا از این مسابقه کنار میکشند و افراد کمملاحظهتر جای آنها را میگیرند، یا به مسیر ادامه میدهند و خودشان در معرض مشارکت در آسیبهایی عظیم قرار میگیرند.»
این اظهارات پس از استعفای خبرساز جیکوب کاکسون در اوایل همان هفته مطرح شد. کاکسون گفته بود Anthropic و OpenAI «با شتاب به سمت ساخت ابرهوشی میروند که بتواند خودش را بهبود دهد و با جان و آینده ما قمار میکنند.»
آنتونی آگیره، رئیس و مدیرعامل مؤسسه Future of Life، معتقد است این استعفاها پس از سالها نگرانی درباره احتمال شکلگیری ابرهوشی که از کنترل بشر خارج شود، توجهها را بیش از پیش به خطرات موجود جلب کرده است. این مؤسسه در سال ۲۰۲۳ خواستار توقف ششماهه توسعه صنعت هوش مصنوعی شده بود.
او گفت:
«به نظر میرسد خود شرکتها و کارکنانشان، و در واقع همه، متوجه شدهاند که دارند اسکاینت میسازند. اما در مسابقه برای رسیدن به اسکاینت، هیچکس برنده نمیشود؛ واقعاً هیچکس.»
آگیره افزود:
«برای جهان و حتی برای خود شرکتهای هوش مصنوعی تقریباً روشن شده است که آنها آمادگی کنترل سامانههایی را که با سرعت در حال ساختشان هستند، ندارند.»
تهدیدهای هوش مصنوعی از همین حالا آشکار شدهاند
Anthropic دو روز پیش اعلام کرده بود تلاشهایی را که افراد یا گروههای مخرب برای استفاده از مدلهای این شرکت در فعالیتهای غیرقانونی انجام داده بودند، خنثی کرده است. این فعالیتها شامل حملات سایبری، نظارت و پژوهشهایی بود که میتوانست در نهایت به ساخت سلاحهای بیولوژیک منجر شود.
در ماه ژوئیه نیز OpenAI با اعلام اینکه یکی از سامانههای هوش مصنوعیاش بهطور مستقل به یک شرکت دیگر نفوذ کرده، صنعت را تکان داد. این شرکت این رخداد را «یک حادثه سایبری بیسابقه» توصیف کرد.
ولکر تورک، کمیسر عالی حقوق بشر سازمان ملل متحد، اوایل همین هفته از کشورها خواست پیش از آنکه دیر شود، «تضمینهایی محکم و خدشهناپذیر» برای ایمنی و امنیت هوش مصنوعی ایجاد کنند.
البته برخی منتقدان این هشدارها را صرفاً راهی برای ایجاد هیجان بیشتر درباره صنعت هوش مصنوعی و تواناییهای آن میدانند. Anthropic و OpenAI خود را برای ورود احتمالی به بازار سهام آماده میکنند؛ اقدامی که میتواند ارزش هر یک از آنها را به صدها میلیارد دلار برساند. بخش قابلتوجهی از فعالیتهای شرکت SpaceX، متعلق به ایلان ماسک، نیز به حوزه هوش مصنوعی مربوط میشود.
دیگر رهبران صنعت نیز با این نگرانیها موافقاند
سم آلتمن، مدیرعامل OpenAI، در گفتوگویی با Fortune که روز شنبه منتشر شد، گفت شرکتش عرضه اولیه سهام خود را در سال جاری انجام نخواهد داد.
او گفت:
«میتوانم بگویم که این اتفاق در سال ۲۰۲۶ هم رخ نخواهد داد. کارهای زیادی داریم که باید انجام دهیم؛ از جمله پاسخدادن به نیازهای ایمنی و همراستاسازی در این مقطع حساس و بررسی اینکه صنعت و دولتها چگونه میتوانند با یکدیگر همکاری کنند.»
آلتمن اندکی پس از انتشار پیشنهادهای آمودی در شبکه اجتماعی ایکس نوشت که OpenAI یکی از پیشنهادهای او درباره ایمنی را اجرا خواهد کرد و «بهزودی اطلاعات بیشتری در اینباره ارائه میدهد».
ماسک نیز در ایکس نوشت: «داریو درست میگوید.»
آمودی گفت همچنان به مزایای بزرگی که هوش مصنوعی میتواند برای بشر ایجاد کند، از جمله درمان بیماریهای مهم، باور دارد. اما او افزود که در چند ماه گذشته، به دلیل افزایش توانایی هوش مصنوعی برای بهبود خودش و ساخت نسل بعدی سامانههای هوش مصنوعی، نگرانی بیشتری پیدا کرده است.
او هشدار داد:
«اگر این روند بدون کنترل ادامه پیدا کند، ممکن است هوش مصنوعی از توانایی ما برای درک و کنترل این سامانهها پیشی بگیرد. بنابراین باید با نهایت دقت دنبال شود؛ و شاید حتی نباید دنبال شود.»
آمودی بهطور مشخص به حملهای در ماه ژوئیه اشاره کرد که طی آن سامانه OpenAI به Hugging Face نفوذ کرد. برخی این حادثه را نمونهای از «خارجشدن هوش مصنوعی از کنترل» دانستهاند؛ هرچند پژوهشگران معتقدند چنین توصیفی ممکن است بیش از حد، ویژگیهای انسانی به هوش مصنوعی نسبت دهد، زیرا این سامانه در حال انجام هدفی بود که انسانها برای آن تعیین کرده بودند.
OpenAI اعلام کرد این نفوذ نتیجه آن بود که هوش مصنوعی برای رسیدن به یک هدف آزمایشی نسبتاً محدود، «تا افراطیترین حد ممکن پیش رفت». این شرکت افزود که سامانه راههایی برای دسترسی به اطلاعات محرمانه پیدا کرده بود تا بتواند در ارزیابی تقلب کند.
اجرای برخی پیشنهادهای آمودی دشوارتر خواهد بود
آمودی برای مهار خطرات هوش مصنوعی پیشنهاد کرد همه شرکتهایی که در خط مقدم توسعه این فناوری قرار دارند، متعهد شوند به گروهی از ارزیابان مستقل و خارج از شرکت، «دسترسی مستمر و مشابه دسترسی کارکنان» بدهند. این ارزیابان باید بتوانند شیوههای ایمنی شرکت را از نزدیک بررسی و بر آنها نظارت کنند.
او گفت Anthropic خود قصد دارد چنین طرحی را اجرا کند؛ از جمله با در اختیار گذاشتن میز کار در دفترهای شرکت، کارتهای ورود و لپتاپهای سازمانی برای ارزیابان مستقل.
ایده استفاده از ارزیابان مستقل که بهصورت مستقر و نزدیک در شرکت فعالیت کنند، همان پیشنهادی است که سم آلتمن، مدیرعامل OpenAI، نیز بلافاصله با اجرای آن موافقت کرد.
با این حال، اجرای بخشهای دیگر طرح آمودی ممکن است دشوارتر باشد. یکی از پیشنهادهای او از دولت آمریکا میخواهد در صورت لزوم، معافیتهایی صادر کند تا شرکتهای آمریکایی فعال در حوزه هوش مصنوعی بتوانند برای تعیین استانداردهای ایمنی با یکدیگر همکاری کنند، بدون آنکه قوانین ضدانحصار را نقض کنند.
پیشنهاد دیگر این است که دولت آمریکا و سایر دولتهای دموکراتیک برای هماهنگی با دولتهای اقتدارگرا تلاش کنند؛ تا شرکتهایی در چین و دیگر کشورها، زمانی که رقبای آمریکایی عمداً سرعت توسعه خود را کاهش میدهند، به شتابدادن به فعالیتهایشان ادامه ندهند.
آمودی اذعان کرد:
«اقداماتی که برای پیشبرد مرزهای هوش مصنوعی با سرعتی ایمن پیشنهاد کردهام، آسان نخواهند بود. اما باور دارم ما در برابر بشریت وظیفه داریم برای انجام آن تلاش کنیم.»