شرکت OpenAI، پیشگام در حوزه هوش مصنوعی، از محصول جدید و انقلابی خود با نام عامل ChatGPT (ChatGPT agent) رونمایی کرد. این مدل پیشرفته که از خانواده مدلهای o3 این شرکت است، دیگر یک چتبات ساده نیست، بلکه یک عامل هوشمند است که میتواند به طور مستقل وظایف پیچیدهای را در دنیای دیجیتال تحقیق، برنامهریزی و اجرا کند. با این حال، همزمان با معرفی این قابلیتهای چشمگیر، OpenAI بر رویکرد محتاطانه و پروتکلهای ایمنی سختگیرانه خود، به ویژه در مورد ریسکهای احتمالی، تأکید کرده است.
عامل ChatGPT چیست و چه کارهایی انجام میدهد؟
این مدل یک عامل هوشمند است؛ به این معنی که میتواند مانند یک دستیار شخصی، وظایف چندمرحلهای را به صورت خودکار انجام دهد. عامل ChatGPT تواناییهای دو پروژه تحقیقاتی مهم OpenAI را با هم ترکیب کرده است:
- توانایی تحقیق عمیق (Deep Research): این سیستم میتواند پژوهشهای پیچیده و چندمرحلهای انجام دهد و گزارشهای دقیق و باکیفیتی تولید کند.
- توانایی اجرای وظایف (Operator): مانند یک اپراتور انسانی، این مدل میتواند ابزارهای کامپیوتری را کنترل کند. برای مثال، میتواند در یک محیط مرورگر، وظایف کاربر را اجرا کند و با وبسایتها تعامل داشته باشد.
علاوه بر اینها، عامل ChatGPT به ابزارهای قدرتمند دیگری نیز مجهز شده است:
- ترمینال کدنویسی: برای اجرای کد، تحلیل دادههای پیچیده و حتی ساخت فایلهایی مانند اسلاید ارائه (پاورپوینت) یا صفحات گسترده (اکسل).
- اتصال به سرویسهای خارجی: این عامل میتواند از طریق اتصالدهندههای امن به اپلیکیشنها و منابع داده خارجی، مانند گوگل درایو، متصل شود تا اطلاعات را بخواند یا فایلهای جدیدی ذخیره کند.
نگرانیهای ایمنی؛ مهمترین بخش ماجرا
مهمترین بخش این رونمایی، تأکید بیسابقه OpenAI بر مسئله ایمنی است. این شرکت اعلام کرده که عامل ChatGPT را بر اساس چارچوب آمادگی (Preparedness Framework) خود، در حوزه بیولوژیکی و شیمیایی به عنوان یک فناوری با توانمندی بالا (High capability) طبقهبندی کرده است.
این طبقهبندی به معنای فعالسازی تمام پروتکلهای ایمنی پیشگیرانه برای جلوگیری از هرگونه سوءاستفاده احتمالی است. OpenAI به صراحت اعلام کرده است:
اگرچه هنوز مدرک قطعی مبنی بر اینکه این مدل بتواند به یک فرد غیرمتخصص برای ایجاد آسیبهای بیولوژیکی جدی کمک کند وجود ندارد—که این معیار ما برای تعریف توانمندی بالا است—اما ما تصمیم گرفتیم رویکردی محتاطانه را در پیش بگیریم.
این رویکرد نشان میدهد که OpenAI همزمان با توسعه فناوریهای قدرتمند، مسئولیتپذیری و پیشبینی خطرات احتمالی را در اولویت اصلی خود قرار داده است تا از عرضه ایمن این ابزارهای تحولآفرین اطمینان حاصل کند.