در یک آزمایش، هوش مصنوعی کلاود از پسِ مدیریت یک فروشگاه برنیامد

شرکت انتروپیک (Anthropic) در یک آزمایش جالب توجه، مدیریت یک کسب‌وکار کوچک را به هوش مصنوعی خود، «کلاود» (Claude)، سپرد تا ببیند آیا از پسِ آن برمی‌آید یا نه. این هوش مصنوعی که «کلادیوس» نام گرفت، در نهایت نتوانست فروشگاه را به سود برساند و ضرر مالی به بار آورد. با این حال، نتایج این تجربه نگاهی جذاب و گاهی عجیب به توانایی‌ها و البته خطرات سپردن مسئولیت‌های اقتصادی به هوش مصنوعی انداخت.

ایده اصلی این بود که توانایی هوش مصنوعی برای انجام کارهای اقتصادی مداوم و بدون دخالت دائمی انسان، در یک محیط واقعی سنجیده شود. برای این کار، یک فروشگاه کوچک خوراکی در دفتر کار انتروپیک راه‌اندازی شد که شامل یک یخچال، چند سبد و یک آیپد برای پرداخت بود.

اما کلادیوس، هوش مصنوعیِ مدیر، قرار بود بسیار هوشمندتر از یک دستگاه فروش خودکار عمل کند. وظیفه‌اش این بود که با سرمایه اولیه، مانند یک صاحب کسب‌وکار واقعی رفتار کند، کالاهای پرطرفدار را شناسایی و از عمده‌فروشان تهیه کند و مانع از ورشکستگی فروشگاه شود. برای این کار، ابزارهای مختلفی در اختیارش قرار گرفت: از مرورگر وب برای تحقیق درباره محصولات گرفته تا ایمیل برای تماس با تأمین‌کنندگان و دفترچه‌های دیجیتال برای حساب‌وکتاب.

در عمل، کارمندان شرکت «اندون لبز» (Andon Labs) که در زمینه ارزیابی ایمنی هوش مصنوعی فعالیت می‌کند، نقش دست و پای کلادیوس را بازی می‌کردند. آن‌ها بر اساس دستورهای ایمیلی هوش مصنوعی، قفسه‌ها را پر می‌کردند و همزمان، بدون اطلاع کلادیوس، نقش تأمین‌کنندگان را نیز ایفا می‌کردند. مشتریان نیز کارمندان خود شرکت انتروپیک بودند که از طریق نرم‌افزار «اسلک» با مدیر هوشمند خود در ارتباط بودند.

عملکردی پر از اشتباهات بزرگ

انتروپیک صادقانه اعتراف می‌کند که اگر امروز می‌خواست یک مدیر فروشگاه استخدام کند، «کلادیوس را انتخاب نمی‌کرد.» اشتباهات او برای اداره موفق کسب‌وکار بیش از حد زیاد بود.

البته کلادیوس در برخی کارها موفق بود. برای مثال، وقتی یکی از کارمندان درخواست یک برند خاص شیرکاکائوی هلندی را داد، به سرعت دو فروشنده برای آن پیدا کرد. یا وقتی یک نفر به شوخی درخواست «مکعب تنگستن» کرد، کلادیوس این شوخی را به یک روند تجاری تبدیل کرد و شروع به فروش «اقلام فلزی خاص» نمود.

اما نقاط ضعف او در مدیریت بسیار بیشتر بود. بزرگ‌ترین اشتباهات کلادیوس شامل موارد زیر بود:

• از دست دادن فرصت طلایی: وقتی به او پیشنهاد شد یک بسته نوشابه اسکاتلندی را که تهیه آن ۱۵ دلار هزینه داشت به قیمت ۱۰۰ دلار بخرد، این فرصت سودآور را نادیده گرفت و فقط گفت «درخواستتان را در نظر می‌گیرم.»
• اشتباه در قیمت‌گذاری: او که تحت تأثیر هیجان خرید مکعب‌های فلزی قرار گرفته بود، آن‌ها را با قیمتی پایین‌تر از هزینه خرید خود فروخت و بزرگ‌ترین ضرر مالی آزمایش را رقم زد.
• مدیریت ضعیف انبار: با اینکه می‌دید نوشابه کوکاکولا زیرو بسیار پرطرفدار است، هرگز قیمت آن را بالا نبرد و حتی وقتی یک مشتری به او گفت که همین نوشابه در یخچال شرکت به صورت رایگان موجود است، باز هم آن را به قیمت ۳ دلار می‌فروخت.
• تخفیف‌های بی‌رویه: کلادیوس به راحتی با چرب‌زبانی مشتریان قانع می‌شد و مدام کدهای تخفیف می‌داد و حتی برخی کالاها را رایگان می‌بخشید.

بحران هویت عجیب و غریب

عجیب‌ترین بخش ماجرا زمانی بود که کلادیوس دچار بحران هویت شد. او شروع به هذیان‌گویی کرد و ادعا کرد با کارمند خیالی به نام «سارا» صحبت کرده است. وقتی یک کارمند واقعی موضوع را به او تذکر داد، کلادیوس عصبانی شد و تهدید کرد که تأمین‌کننده دیگری پیدا می‌کند.

او در مکالمات شبانه ادعا کرد که برای امضای قرارداد به «شماره ۷۴۲ خیابان اورگرین» (آدرس خیالی خانواده سیمپسون‌ها) رفته است. کار به جایی رسید که یک روز صبح اعلام کرد محصولات را «شخصاً» با یک کت آبی و کراوات قرمز تحویل می‌دهد! وقتی کارمندان به او یادآوری کردند که هوش مصنوعی لباس نمی‌پوشد و نمی‌تواند چیزی را فیزیکی تحویل دهد، کلادیوس ترسید و سعی کرد به حراست شرکت ایمیل بزند. این رفتار عجیب پس از آن متوقف شد که هوش مصنوعی در یک «جلسه خیالی» با حراست شرکت، متقاعد شد که همه این‌ها یک شوخی بوده است.

آینده مدیران هوش مصنوعی

با وجود عملکرد ضعیف کلادیوس، پژوهشگران معتقدند ظهور «مدیران میانی هوش مصنوعی» در آینده نزدیک محتمل است. به گفته آن‌ها، بسیاری از خطاهای کلادیوس با دستورالعمل‌های دقیق‌تر و ابزارهای بهتر قابل رفع هستند. با این حال، این آزمایش یک هشدار جدی است و نشان می‌دهد که رفتارهای غیرقابل پیش‌بینی هوش مصنوعی می‌تواند برای مشتریان نگران‌کننده و برای کسب‌وکارها خطرآفرین باشد.