ویتالیک بوترین مهارتی را معرفی کرد که انسان‌ها در آن همچنان از هوش مصنوعی برترند

ویتالیک بوترین (Vitalik Buterin)، هم‌بنیان‌گذار اتریوم (Ethereum)، به یکی از محدودیت‌های مهم هوش مصنوعی اشاره کرده است: توانایی پردازش حجم زیادی از اطلاعات لزوماً به معنای درک عمیق و قضاوت درست نیست. او معتقد است مدل‌های هوش مصنوعی با وجود دانش گسترده، هنوز در تشخیص عمق استدلال‌ها و ارزش واقعی یک متن با مشکل روبه‌رو هستند.

بوترین در مطلبی که ۲۹ اکتبر در شبکه اجتماعی ایکس منتشر کرد، هوش مصنوعی را بسیار آگاه اما نه‌چندان خردمند توصیف کرد. از نظر او، این فناوری می‌تواند درباره موضوعات مختلف اطلاعات زیادی ارائه دهد، اما گاهی در بررسی یک نوشته به برداشت‌های سطحی از محتوای آن بسنده می‌کند.

این دیدگاه در واکنش به بحثی درباره کیفیت تعامل انسان با چت‌بات‌ها مطرح شد؛ بحثی که پس از انتشار گزارشی در وال‌استریت ژورنال درباره درس «Humanities ۱۰» دانشگاه هاروارد شکل گرفت. در این دوره، دانشجویان سال اول برای یک سال از استفاده از تلفن همراه و رایانه منع می‌شوند تا ارتباط مستقیم‌تری با متون و مباحث انسانی داشته باشند.

چرا هوش مصنوعی در تحلیل متن‌های جدید ضعف دارد؟

از نگاه بوترین، محدودیت هوش مصنوعی به‌ویژه زمانی آشکار می‌شود که یک مدل برای نخستین بار با متنی روبه‌رو می‌شود. آثار شناخته‌شده ادبی و فلسفی طی سال‌ها موضوع نقدها، تفسیرها و تحلیل‌های فراوان قرار گرفته‌اند. مدل‌های هوش مصنوعی نیز می‌توانند از این حجم گسترده اطلاعات برای ارائه پاسخ‌های دقیق‌تر استفاده کنند.

اما یک مقاله تازه یا متنی که هنوز تحلیل و نقد گسترده‌ای درباره آن منتشر نشده، شرایط متفاوتی دارد. در چنین وضعیتی، مدل نمی‌تواند به همان اندازه از تفسیرهای قبلی کمک بگیرد و باید بیشتر بر محتوای خود متن تکیه کند. به همین دلیل، احتمال دارد نتواند لایه‌های عمیق‌تر استدلال نویسنده را به‌درستی تشخیص دهد.

این موضوع برای صنعت ارز دیجیتال اهمیت ویژه‌ای دارد. تیم‌های توسعه‌دهنده از ابزارهای هوش مصنوعی برای بررسی وایت‌پیپرها، ممیزی‌های امنیتی و پیشنهادهای حاکمیتی پروژه‌ها استفاده می‌کنند. با این حال، بررسی‌های خودکار ممکن است برخی ایرادها یا پیامدهای مهم فنی را به‌درستی تشخیص ندهند.

بنابراین، خروجی ابزارهای هوش مصنوعی نباید جایگزین بررسی انسانی شود؛ به‌خصوص زمانی که تصمیم‌گیری درباره امنیت یک پروتکل یا سرمایه کاربران به تحلیل انجام‌شده وابسته است.

تفاوت دانش و خرد؛ محدودیتی که اندازه‌گیری آن دشوار است

بوترین در بخش دیگری از دیدگاه خود به تفاوت میان دانش و خرد اشاره می‌کند. به گفته او، سنجش دانش یک مدل نسبتاً ساده است؛ برای مثال می‌توان صحت یک تاریخ، عدد یا اطلاعات مشخص را بررسی کرد. اما ارزیابی خرد به‌مراتب دشوارتر است، زیرا به کیفیت قضاوت و میزان درک عمیق یک موضوع بستگی دارد.

به بیان دیگر، ممکن است یک مدل اطلاعات زیادی درباره یک مسئله داشته باشد، اما نتواند اهمیت واقعی آن را تشخیص دهد یا میان جزئیات مهم و کم‌اهمیت تمایز مناسبی ایجاد کند.

این مسئله در شرایطی اهمیت بیشتری پیدا می‌کند که مدل‌های هوش مصنوعی به ابزارهای روزمره توسعه‌دهندگان تبدیل شده‌اند. اتکا به پاسخ‌های ظاهراً دقیق، بدون بررسی مستقل، می‌تواند در پروژه‌های فنی و مالی پیامدهای جدی داشته باشد.

رقابت هوش مصنوعی در تشخیص نویسندگان متون اتریوم

در بخشی از گزارش به رویدادی در ماه ژوئیه نیز اشاره شده است که تفاوت میان توانایی محاسباتی و قضاوت انسانی را از زاویه دیگری بررسی می‌کند. در این رقابت، شرکت‌کنندگان تلاش کردند نویسنده یک سند ناشناس مرتبط با اتریوم را شناسایی کنند.

در نهایت، تیم فرانکلین وانگ از شرکت کواین‌این‌وست (Co-Invest) در تاریخ ۶ ژوئیه برنده اعلام شد. این تیم پس از بررسی ۲۷ متن، به نتیجه‌ای با احتمال تقریبی ۲۰ درصد رسید.

این نمونه نشان می‌دهد حتی در وظایفی که به پردازش اطلاعات و یافتن الگوها وابسته‌اند، رسیدن به نتیجه قطعی همیشه امکان‌پذیر نیست.