آیا سرعت پیشرفت هوش مصنوعی باید کاهش یابد؟ آنتروپیک، متا و Open AI چه می‌گویند؟

سرعت بالای رشد فناوری، همه ما را با یک سوال خیلی مهم روبرو کرده است: آیا هوش مصنوعی دارد آن‌قدر سریع پیش می‌رود که دیگر نتوانیم آن را کنترل و امن کنیم؟

این روزها انتشار مقاله‌ها، گزارش‌های بررسی خطرات و حرف‌های مدیران بزرگ فناوری، بحث‌های جدی و زیادی را درباره آینده هوش مصنوعی شروع کرده است.

از یک طرف، برخی پژوهشگران نگران خطراتی مثل حملات سایبری، تهدیدهای زیستی یا از دست رفتن کنترل این سیستم‌ها هستند؛ به همین دلیل می‌خواهند سرعت پیشرفت کمی کمتر شود تا بتوانند خطرات را بهتر بررسی کنند. اما از طرف دیگر، موافقان رشد سریع می‌گویند که اگر سرعت را کم کنیم، در رقابت‌های بزرگ اقتصادی، علمی و جهانی عقب می‌افتیم.

چرا جنجال بر سر سرعت پیشرفت هوش مصنوعی بالا گرفته است؟

در طول دو سال گذشته، توانمندی مدل‌های پایه با ضریب بسیار بالایی رشد کرده است. مسئله اصلی دانشمندان این است که الگوریتم‌های هوشمند بسیار سریع‌تر از فهم دقیق انسان از نحوه عملکرد داخلی آن‌ها (قابلیت تفسيرپذیری یا Interpretability) در حال پیشرفت هستند. 

وقتی یک مدل چندصد میلیارد پارامتری به کدهای برنامه‌نویسی پیچیده یا استدلال‌های منطقی دست می‌یابد، اطمینان از اینکه عملکرد آن همواره در راستای اهداف انسانی باشد، دشوارتر می‌شود.

ایجاد شکاف زمانی میان ارتقای قابلیت‌ها و ایمن‌سازی آن‌ها، هسته اصلی نگرانی‌ها را تشکیل می‌دهد. اگر شرکت‌ها بدون ارزیابی جامع امنیتی مدل بعدی خود را آموزش داده و عرضه کنند، ممکن است با قابلیت‌های غیرمنتظره و کنترل‌نشده‌ای مواجه شوند که اصلاح آن‌ها پس از انتشار عمومی امکان‌پذیر نباشد.

دیدگاه و استراتژی شرکت‌های بزرگ درباره کنترل سرعت پیشرفت هوش مصنوعی

جامعه هوش مصنوعی مابین دو دیدگاه کاملاً متضاد تقسیم شده است. تفاوت در نگاه شرکت‌های پیشرو به موضوع سرعت پیشرفت هوش مصنوعی، تنها یک اختلاف نظر علمی ساده نیست؛ بلکه مستقیماً با مدل‌های اقتصادی، ساختار سرمایه‌گذاری و چشم‌انداز آینده آن‌ها گره خورده است.

آنتروپیک: نباید سرعت ارتقای قابلیت‌ها از توانایی آزمون‌های امنیتی پیشی بگیرد!

داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک، با معرفی سیاست‌های توسعه مسئولانه (Responsible Scaling Policy) از بقیه شرکت‌ها خواست سرعت ساخت و عرضه هوش مصنوعی‌های پیشرفته (Frontier Models) را با تست‌های ایمنی هماهنگ کنند.

حرف اصلی آنتروپیک این است: اگر سرعت پیشرفت هوش مصنوعی از قدرت تست‌های امنیتی ما بیشتر شود، خطرات بزرگی جامعه را تهدید می‌کند. برای همین لازم است قبل از انتشار نسخه‌های جدید، وقفه‌های کوتاهی داشته باشیم تا از ایمن بودن آن‌ها مطمئن شویم.

اوپن‌ای‌آی، گوگل و xAI؛ موافقت‌ در عین رقابت شدید

در یک تصمیم مهم، مدیران ارشد شرکت‌های OpenAI، گوگل دیپ‌مایند (Google DeepMind) و xAI قبول کرده‌اند که قبل از انتشار برنامه‌هایشان، ارزیابی‌های مستقلی روی آن‌ها انجام شود. آن‌ها پذیرفته‌اند که کمک گرفتن از بررسی‌کنندگان بیرونی و انجام تست‌های نفوذ و شبیه‌سازی حملات (Red-Teaming) می‌تواند نقاط ضعف و خطرات سیستم‌ها را کمتر کند.

با این حال، رقابت تجاری بر سر ساخت زیرساخت‌ها و سرورهای قوی‌تر با تمام توان ادامه دارد. رقابت شدید بین آنتروپیک و اوپن‌ای‌آی باعث شده که هیچ‌کدام نتوانند به تنهایی ساخت هوش مصنوعی را متوقف کنند.

متا؛ چرا زاکربرگ مخالف کاهش سرعت پیشرفت هوش مصنوعی است؟

در طرف دیگر این بحث‌ها، شرکت متا و گروهی از سرمایه‌گذاران قرار دارند که کلاً با کم کردن اجباری سرعت پیشرفت مخالف‌اند.

مارک زاکربرگ و طرفداران رشد سریع می‌گویند هوش مصنوعی متن‌باز (Open-Source) بیشترین کمک را به پیشرفت انسان می‌کند و اگر جلوی آن را بگیریم، دستاوردهای بزرگ پزشکی، علمی و آموزشی را از دست می‌دهیم. او در مقاله‌ای صراحتاً از دلایل اهمیت هوش مصنوعی متن‌باز برای آینده فناوری دفاع کرده است.

به باور این گروه، کند کردن سرعت توسعه فقط دست‌وپای شرکت‌های قانونی را می‌بندد؛ در حالی که رقبای جهانی بدون هیچ محدودیتی به کارشان ادامه خواهند داد.

مرجع نهایی تصمیم‌گیری برای قوانین هوش مصنوعی کیست؟

با اوج‌گیری اختلافات میان سازندگان، این پرسش کلیدی مطرح می‌شود که چه نهاد یا ساختاری صلاحیت دارد درباره سرعت توسعه تصمیم بگیرد. تصمیم‌گیری در این حوزه نمی‌تواند صرفاً به هیئت‌مدیره چند شرکت خصوصی در سیلیکون‌ولی واگذار شود، چرا که پیامدهای آن تمام جوامع بشری را متاثر می‌سازد.

در حال حاضر، تلاش‌ها برای شکل‌گیری یک مرجع قانونی و تصمیم‌گیرنده نهایی قوانین هوش مصنوعی در سه سطح پیگیری می‌شود:

1. مؤسسات ایمنی دولتی (AI Safety Institutes): نهادهایی نظیر US AISI در آمریکا و UK AISI در بریتانیا تلاش می‌کنند آزمون‌های اجباری پیش از انتشار را تعریف کنند.
2. چارچوب‌های منطقه‌ای: تصویب قوانینی مانند قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) گامی برای اجباری کردن شفافیت و ارزیابی ریسک است.
3. معاهدات بین‌المللی: بسیاری از دانشمندان پیشنهاد می‌دهند ساختاری مشابه سازمان بین‌المللی انرژی اتمی (IAEA) برای نظارت بر دیتاسنترها و فضاهای ابری پردازشی  بزرگ ایجاد شود.

در دنیای تکنولوژی، ابزارهای مختلفی با فلسفه‌های متفاوت توسعه یافته‌اند. برای مثال، ساختار تحلیلی و دقت بالای الگوریتم‌هایی نظیر کلود بر مبنای چارچوب‌های سخت‌گیرانه ایمنی شکل گرفته است؛ در حالی که سیستم‌های مقیاس‌بزرگی همچون جمنای و مدل‌های نوآورانه‌ای مانند گراک هرکدام مسیر متفاوتی را برای پاسخ به نیازهای پژوهشی و تجاری طی می‌کنند.

چالش هماهنگی جهانی؛ چرا قانون‌گذاری سرعت پیشرفت هوش مصنوعی دشوار است؟

اجرای قوانین یکپارچه برای مدیریت سرعت پیشرفت هوش مصنوعی با پیچیدگی‌های ساختاری عظیمی روبه‌روست. علت اصلی این دشواری، تضاد میان منافع ملی کشورها و سرعت بالای تحولات تکنولوژیک در مقایسه با فرایندهای کند قانون‌گذاری است.

تصمیم‌گیری درباره قوانین و مقررات بین‌المللی هوش مصنوعی نیازمند توازنی دقیق میان سه فاکتور اساسی است:

1. امنیت ملی و رقابت ژئوپلیتیک: اگر یک کشور توسعه مدل‌های پیشرفته را کند کند، کشورهای رقیب ممکن است با سرعت بیشتری پیشرفت کرده و برتری تکنولوژیک را به دست آورند.
2. نوآوری آزاد در برابر انحصار سازمانی: قوانین بسیار سخت‌گیرانه ممکن است به نفع شرکت‌های بزرگ تمام شود و استارت‌آپ‌های کوچک‌تر را از گردونه رقابت حذف کند.
3. تضمین ایمنی فنی: مدل‌های خودکار نباید بدون ارزیابی‌های جامع امنیتی در دسترس عموم یا زیرساخت‌های حساس قرار گیرند.

ورود هوش مصنوعی به زندگی روزمره و کارهای عادی

ابزارهای هوشمند کلاً نحوه دسترسی و استفاده ما از اطلاعات را تغییر داده‌اند. این روزها ابزارهای پیشرفته هوش مصنوعی خیلی راحت‌تر در دسترس همه قرار گرفته‌اند و سایت‌ها و برنامه‌های زیادی در این زمینه فعالیت می‌کنند.

امروزه استفاده روزافزون از این ابزارها برای کارهایی مثل تحلیل داده‌ها و برنامه‌نویسی، نشان می‌دهد که فناوری چقدر سریع در زندگی ما نفوذ کرده است. علاوه بر این، ابزارهای پرکاربردی مثل چت جی پی تی حالا به بخشی جدایی‌ناپذیر از کارهای روزمره مردم تبدیل شده‌اند.

چالش‌های کاربران ایرانی در دسترسی به هوش مصنوعی

با وجود تمام بحث‌های جهانی درباره امنیت هوش مصنوعی و خطرات آن، کاربران، پژوهشگران و مهندسان در واقعیت فقط می‌خواهند از این ابزارها برای افزایش بهره‌وری خود استفاده کنند. اما تحریم‌های بین‌المللی و مشکلات پرداخت ارزی باعث شده دسترسی مستقیم به برخی از این پلتفرم‌ها برای کاربران داخل ایران چالش‌برانگیز باشد.

معرفی هوشا؛ راه‌حل دسترسی کاربران ایرانی به هوش مصنوعی

در چنین شرایطی، سرویس‌های واسط ایرانی تلاش کرده‌اند دسترسی مستقیم و بدون محدودیت به الگوریتم‌های مطرح جهان را فراهم کنند. استفاده از قابلیت‌های جامع هوش مصنوعی آنلاین به کاربران امکان می‌دهد پروژه‌های علمی، متنی و برنامه‌نویسی خود را بدون نیاز به زیرساخت‌های پیچیده انجام دهند.

همچنین دسترسی راحت به نسخه‌های محبو‌بی چون چت جی پی تی فارسی و بهره‌گیری از ظرفیت‌های هوش مصنوعی رایگان فارسی زمینه‌ای را فراهم کرده تا پژوهشگران ایرانی نیز همگام با تحولات جهانی از قابلیت‌های پردازش هوشمند استفاده کنند.

جمع‌بندی؛ آینده رقابت و امنیت هوش مصنوعی

آینده تعامل انسان و الگوریتم‌های هوشمند، بیش از هر چیز به نحوه مدیریت این دوران گذار بستگی دارد. کند کردن متعادل شتاب توسعه به معنای متوقف ساختن علم نیست، بلکه به معنای اختصاص دادن زمان کافی برای ساخت سیستم‌های دفاعی، ارزیابی‌های اخلاقی و ایجاد کدهای امنیتی محکم‌تر است.

توازن میان سرعت رشد و امنیت، نیازمند همفکری مداوم بین دانشمندان، نهادهای دولتی و آحاد جامعه است. قاضی نهایی این دادگاه تاریخی تنها یک سازمان خاص نخواهد بود، بلکه اجماع جهانی و قوانین بین‌المللی خواهند بود که مرزهای استفاده ایمن از الگوریتم‌های هوشمند را تعیین می‌کنند.

نویسنده: معین معرک نژاد