تحقیق و توسعه «کلود» بر عهده خودش است!

به گزارش انجمن خرد آورده شده از ایسنا، شرکت آنتروپیک و به‌طور مشخص مدیرعامل آن، داریو آمودی(Dario Amodei) پس از افشای خبر هک شدن پلتفرم Hugging Face توسط عوامل هوش مصنوعی شرکت اوپن‌ای‌آی(OpenAI)، سخنان زیادی درباره ایمنی هوش مصنوعی مطرح کرده و در این مسیر جزئیات جالبی از نحوه عملکرد خود را نیز آشکار کرده است.

برای مثال، آنتروپیک در یک پست وبلاگی جدید که به تشریح استانداردهای اندازه‌گیری می‌پردازد (معیارهایی که به اعتقاد این شرکت می‌توانند به شرکت‌های هوش مصنوعی در اطلاع‌رسانی درباره سرعت توسعه این فناوری کمک کنند)، اعلام کرد که چت‌بات هوش مصنوعی آن موسوم به «کلود»، هدایت ۲۶ درصد از فعالیت‌های تحقیق و توسعه(R&D) هوش مصنوعی این شرکت را بر عهده دارد.

منظور شرکت از واژه هدایت یا رهبری این است که هوش مصنوعی می‌تواند بخش عمده‌ای از یک وظیفه را به‌صورت سرتاسری و بر اساس یک دستور کلی (prompt) انجام دهد، در حالی که یک انسان بر آن نظارت دارد. با این حال، این همچنان شاخصی قابل‌توجه و غافلگیرکننده است.

این شرکت همچنین ادعا می‌کند که هوش مصنوعی اکنون در بیش از ۹۰ درصد از فعالیت‌های پژوهشی این شرکت که شامل همان ۲۶ درصدِ تحت هدایت Claude نیز می‌شود، دخالت دارد و حداقل بخش‌های بزرگی از کار را تحت هدایت دقیق انسانی انجام می‌دهد.

این موضوع نشان می‌دهد که Claude در بخش عمده‌ای از کارهای کارکنان آنتروپیک نقش دارد، هرچند این شرکت تأکید می‌کند که این چت‌بات در هیچ‌یک از زیرمجموعه‌های اندازه‌گیری‌شده‌ فعالیت‌های تحقیق و توسعه هوش مصنوعی، به‌طور کاملاً خودمختار عمل نمی‌کند.

آنتروپیک این آمار را با استفاده از نخستین مورد از سه معیار پیشنهادی خود به دست آورده است؛ معیاری که بر «تحقیق و توسعه هوش مصنوعیِ هدایت‌شده توسط هوش مصنوعی» تمرکز دارد.

این شرکت با بهره‌گیری از شاخصی برای سنجش میزان مشارکت Claude در فعالیت‌های تحقیق و توسعه هوش مصنوعی و همچنین مقیاس رتبه‌بندی اتوماسیونِ ارائه‌شده توسط Epoch AI، نموداری ترسیم کرد که سطح اتوماسیون «کلود» را از اوت ۲۰۲۵ نشان می‌دهد.

آنتروپیک معتقد است که هر سازنده مدل‌های پیشرفته هوش مصنوعی می‌تواند این فرآیند را با استفاده از داده‌های اختصاصی خود و تأیید یک نهاد ثالث، بازسازی کند.

این شرکت همچنین روش‌هایی را برای سنجش میزان نظارت بر عوامل هوش مصنوعی، شامل میزان پایش فعالیت عامل، مدت‌زمان لازم برای بازبینی و دفعات علامت‌گذاری رفتار عامل و نیز ردیابی میزان توان محاسباتی اختصاص‌یافته به تحقیق و توسعه هوش مصنوعی پیشنهاد کرده است تا از این طریق بتوان ارزیابی کرد که آیا سرعت توسعه فناوری‌های پیشرفته هوش مصنوعی مناسب است یا خیر.

امید می‌رود که افزایش شفافیت، واکنش نشان دادن به توسعه احتمالی و خارج از کنترل هوش مصنوعی را آسان‌تر کند یا دست‌کم تصویری روشن‌تر از این روند در اختیار عموم قرار دهد.

با این حال، تاکنون مشکل اصلی، جلب موافقت شرکت‌ها در مورد ایده کاهش سرعت توسعه هوش مصنوعی نبوده است. شرکت OpenAI قبلاً به این ایده به صورت ظاهری اشاره کرده است و آنتروپیک متعهد شده است که به ارزیابان شخص ثالث اجازه دهد تا شیوه‌های توسعه آن را بررسی کنند.

موضع «آمودی» در مورد ایمنی هوش مصنوعی حتی باعث شد که ایلان ماسک در مورد شبکه اجتماعی ایکس(X) نیز با آن موافقت کند.

در مجموع، اینکه آیا صنعت هوش مصنوعی با چیزی غیر از خودتنظیمی روبرو است یا خیر، بسیار نامشخص است.