(بر اساس جمع‌بندی منابع معتبر)
هوش مصنوعی چیست؟
برای جواب‌دادن به این سؤال، حداقل باید دو منبع زیر رو ببینین:
کتاب «هوش مصنوعی: رویکردی مدرن» (Artificial Intelligence: A Modern Approach) نوشتهٔ استوارت راسل و پیتر نورویگ. این کتاب معتبرترین منبع دانشگاهی توی این حوزه‌ست و یه نقطه شروع عالی برای آشنایی با هوش مصنوعیه. توی این کتاب حدوداً ۱۲۰۰ صفحه‌ای، دو نکته خیلی مهم وجود داره:
- اول اینکه یه دید کلی و ساختاریافته از کل موضوع بهتون می‌ده و کلیدواژه‌های اصلی این فناوری رو در اختیارتون می‌ذاره.
- دوم اینکه وقتتون رو با محتوای بی‌خود نمی‌گیره.
اگه خواستین بیشتر درباره‌ش بدونین، سری به صفحه رسمی این کتاب توی سایت دانشگاه برکلی بزنین.
Artificial Intelligence: A Modern Approach, 4th Global ed
صفحه انگلیسی هوش مصنوعی توی ویکی‌پدیا. این صفحه با زبان ساده‌تر و توی حدود ۱۴,۰۰۰ کلمه، یه توضیح جمع‌وجور و قابل‌قبول از موضوع ارائه می‌ده. البته جامعیت و ساختارش به‌پای کتاب نمی‌رسه، ولی برای شروع بد نیست.
Artificial intelligence – Wikipedia
حوصله خوندن این منابع رو ندارین؟
خب، جای نگرانی نیست. این مقاله‌ای که الان می‌خونین، یه جمع‌بندی جامع از این مدل منابع معتبره. ما تلاش کردیم محتوا رو به زبون ساده و درعین‌حال کامل و دقیق ارائه بدیم، تا به سؤال «هوش مصنوعی چیست» یه جواب درخور و مفید داده باشیم. امیدواریم براتون کاربردی باشه. تمرکز ما روی بهترین و جامع‌ترین منبع، [یعنی] کتابه؛ و سعی می‌کنیم در گذر زمان سایر منابع رو هم دخیل کنیم.
حوصله خوندن این مقاله رو هم ندارین؟
این هم خلاصه کل مطلب در یک پاراگراف:
تعریف هوش مصنوعی به زبان ساده
اگر سوال شما هم اینه که هوش مصنوعی به زبان ساده چیست؟ باید بهتون بگم که هوش مصنوعی یا AI یه شاخه از علوم کامپیوتره که تلاش می‌کنه ماشین‌ها رو طوری طراحی کنه که بتونن مثل آدم‌ها فکر کنن، تصمیم بگیرن و عمل کنن. این علم شامل درک و یادگیری ماشین‌ها از محیط اطرافشون، توانایی حل مسائل، پیش‌بینی، و حتی تعامل با انسان‌ها به زبون طبیعی می‌شه. هدف اصلی هوش مصنوعی اینه که ماشین‌ها بتونن در موقعیت‌های جدید و پیچیده تصمیم‌های هوشمندانه و مفید بگیرن. از رانندگی خودکار گرفته تا تشخیص بیماری‌ها یا حتی نوشتن شعر، هوش مصنوعی هر روز داره پیشرفته‌تر می‌شه و نقش بزرگ‌تری تو زندگی روزمره ما پیدا می‌کنه.
مقدمه
ما به خودمون می‌گیم هومو ساپینس (Homo sapiens) – انسان خردمند – چون هوشمون برامون خیلی اهمیت داره. هزاران ساله که داریم سعی می‌کنیم بفهمیم چطور فکر می‌کنیم و چطور رفتار می‌کنیم. اینکه چطور مغزمون [که فقط یه مشت ماده‌ست]، می‌تونه دنیایی خیلی بزرگ‌تر و پیچیده‌تر از خودش رو درک کنه، بفهمه، پیش‌بینی کنه و حتی تغییر بده.
حالا توی دنیای هوش مصنوعی (AI)، هدف نه فقط فهمیدن این فرایندها، بلکه ساختن موجودات هوشمنده – ماشین‌هایی که بتونن محاسبه کنن چطور توی موقعیت‌های جدید و متنوع به شکل مؤثر و امن عمل کنن.
نظرسنجی‌ها همیشه هوش مصنوعی رو یکی از جذاب‌ترین و سریع‌ترین حوزه‌های درحال‌رشد معرفی می‌کنن. این فناوری همین حالا هم بیش از هزار میلیارد دلار در سال درآمدزایی داره. کای-فو لی (Kai-Fu Lee)، یکی از متخصصان برجسته این حوزه، پیش‌بینی کرده که تأثیر هوش مصنوعی «بیشتر از هر چیزیه که توی تاریخ بشر اتفاق افتاده.»
علاوه بر این، مرزهای فکری هوش مصنوعی هنوز بازه. یه دانشجوی رشته‌های قدیمی‌تری مثل فیزیک ممکنه حس کنه بهترین ایده‌ها قبلاً توسط دانشمندانی مثل گالیله، نیوتن، ماری کوری، و انیشتین کشف شدن؛ درحالی‌که هوش مصنوعی هنوز جا برای ایده‌های تازه و نوآور داره.
هوش مصنوعی در حال حاضر طیف وسیعی از زیرشاخه‌ها رو شامل می‌شه؛ از موضوعات کلی مثل یادگیری، استدلال و ادراک گرفته تا موضوعات خاص مثل بازی شطرنج، اثبات قضیه‌های ریاضی، سرودن شعر، رانندگی با ماشین، یا تشخیص بیماری‌ها.
در واقع، هوش مصنوعی به هر کاری که نیاز به فکر و هوش داشته باشه ربط پیدا می‌کنه؛ این حوزه واقعاً یه علم جهانیه.
هوش مصنوعی چیست؟
ما گفتیم که هوش مصنوعی موضوع جذابیه، اما هنوز توضیح ندادیم که اصلاً چیه. توی تاریخچه این حوزه، محقق‌ها چند مسیر مختلف رو برای تعریف هوش مصنوعی دنبال کردن. بعضی‌ها هوش رو بر اساس شباهت به عملکرد انسان تعریف کردن، در حالی که یه عده دیگه تعریف رسمی‌تر و انتزاعی‌تری رو ترجیح دادن که بهش «عقلانیت» میگن – عقلانیت به زبون ساده، یعنی انجام دادن کار درست.
بحث هوش مصنوعی هم خودش تنوع داره: بعضی‌ها هوش رو ویژگی فرایندهای فکری داخلی و استدلال می‌دونن، درحالی‌که بقیه روی رفتارهای هوشمند، یعنی جنبه بیرونی، تمرکز می‌کنن.
از ترکیب این دو بُعد – یعنی انسان‌محور در مقابل عقلانی، و فکر در مقابل رفتار – چهار رویکرد مختلف به وجود میاد. جالبه که برای هر کدوم از این ترکیب‌ها هم طرفدارها و برنامه‌های تحقیقاتی بوده و هست.
روش‌هایی که توی این مسیرها استفاده میشن، طبیعتاً با هم فرق دارن: اگه بخوایم هوش مصنوعی شبیه انسان باشه، باید بخشی از مسیر رو بر اساس علوم تجربی مثل روان‌شناسی طی کنیم و رفتارها و فرآیندهای فکری واقعی انسان رو مشاهده و تحلیل کنیم. اما اگه عقلانیت هدفمون باشه، بیشتر باید سراغ ریاضی و مهندسی بریم، و از ابزارهایی مثل آمار، نظریه کنترل و اقتصاد کمک بگیریم.
این گروه‌های مختلف هم گاهی با هم رقابت داشتن و همدیگه رو زیر سوال بردن، و گاهی هم به پیشرفت هم کمک کردن. حالا بیاید این چهار رویکرد رو دقیق‌تر بررسی کنیم.
۱. عمل‌کردن شبیه انسان: رویکرد آزمون تورینگ
آزمون تورینگ که اولین‌بار توسط آلن تورینگ (Alan Turing) در سال ۱۹۵۰ پیشنهاد شد، یه آزمایش فکری بود که قصد داشت از بحث‌های فلسفی مبهم درباره اینکه «آیا ماشین می‌تونه فکر کنه؟» عبور کنه. بر اساس این آزمون، اگه یه انسان نتونه از طریق پرسیدن سؤال‌ها و دریافت پاسخ‌های نوشتاری (کتبی) تشخیص بده که جواب‌ها از یه آدم اومدن یا یه کامپیوتر، اون کامپیوتر آزمون رو پاس کرده.
جزئیات این آزمون و اینکه آیا پاس‌کردنش واقعاً نشونه هوش یه ماشین هست یا نه صحبت عمیقیه و در آینده به سراغش می‌ریم؛ اما فعلاً باید بدونیم که برنامه‌ریزی یه کامپیوتر برای پاس‌کردن یه آزمون سخت‌گیرانه، چالش‌های زیادی ایجاد می‌کنه. برای این کار، کامپیوتر به این توانایی‌ها نیاز داره:
- پردازش زبان طبیعی: برای اینکه بتونه به زبون انسان‌ها ارتباط برقرار کنه.
- نمایش دانش: برای ذخیره‌کردن اطلاعاتی که می‌دونه یا می‌شنوه.
- استدلال خودکار: برای پاسخ‌دادن به سؤال‌ها و نتیجه‌گیری‌های جدید.
- یادگیری ماشینی: برای سازگارشدن با شرایط جدید و کشف و پیش‌بینی الگوها.
تورینگ اعتقاد داشت که شبیه‌سازی فیزیکی یه انسان برای نشون دادن هوش ضروری نیست؛ ولی بعضی محقق‌ها نسخه کامل‌تری از آزمون تورینگ رو پیشنهاد دادن که شامل تعامل با اشیا و آدم‌ها تو دنیای واقعی هم می‌شه. برای پاس‌کردن این آزمون که از قضا اسمش آزمون کامل تورینگه، یه ربات باید:
- بینایی کامپیوتری و تشخیص گفتار داشته باشه تا بتونه دنیا رو درک کنه.
- رباتیک بلد باشه تا اشیا رو دست‌کاری کنه و حرکت کنه.
این شش زمینه، بخش بزرگی از دنیای هوش مصنوعی رو تشکیل می‌دن. بااین‌حال، محقق‌های هوش مصنوعی خیلی به پاس‌کردن آزمون تورینگ اهمیت ندادن و بیشتر روی مطالعه اصول پایه‌ای هوش تمرکز کردن.
مشابه این قضیه برای فناوری پرواز هم وجود داشت. مهندس‌ها و مخترع‌ها زمانی موفق شدن به فناوری پرواز دست پیدا کنن که دست از تقلید پرنده‌ها برداشتن و به آزمایش توی تونل باد و مطالعه آیرودینامیک روی آوردن. طبیعیه که کتاب‌های مهندسی هوافضا هم هدف این رشته رو «ساختن ماشین‌هایی که دقیقاً مثل کبوتر پرواز کنن و حتی کبوترهای دیگه رو هم گول بزنن» تعریف نمی‌کنن!
۲. فکرکردن شبیه انسان: رویکرد مدل‌سازی شناختی
برای اینکه بگیم یه برنامه مثل انسان فکر می‌کنه، اول باید بفهمیم انسان‌ها چطور فکر می‌کنن. برای درک این موضوع، سه روش اصلی وجود داره:
- خوداندیشی: تلاش برای اینکه افکار خودمون رو همون موقع که به ذهنمون می‌رسن، بررسی کنیم.
- آزمایش‌های روان‌شناختی: مشاهده رفتار افراد در موقعیت‌های مختلف.
- تصویربرداری مغزی: مشاهده فعالیت مغز در حین کارکردن.
وقتی یه نظریه دقیق درباره ذهن انسان داشته باشیم، می‌تونیم اون رو به شکل یه برنامه کامپیوتری پیاده کنیم. اگه رفتار ورودی و خروجی برنامه با رفتار انسان در شرایط مشابه هم‌خوانی داشته باشه، این نشون می‌ده که احتمالاً بعضی از مکانیزم‌های اون برنامه توی انسان‌ها هم وجود داره.
برای مثال، آلن نیوول (Allen Newell) و هربرت سایمون (Herbert Simon) که برنامه‌ای به اسم GPS (حل‌کننده عمومی مسائل) طراحی کردن، فقط به حل درست مسائل راضی نبودن. اونا بیشتر دنبال این بودن که ببینن ترتیب و زمان‌بندی مراحل استدلال برنامه چقدر به فرایندهای فکری انسان شباهت داره.
علم میان‌رشته‌ای علوم شناختی، مدل‌های کامپیوتری هوش مصنوعی رو با تکنیک‌های تجربی روان‌شناسی ترکیب می‌کنه تا نظریه‌های دقیق و قابل‌آزمایشی درباره ذهن انسان بسازه. این رشته خودش یه حوزه جذاب و گسترده‌ست که کلی کتاب درسی و حتی یه دایرهالمعارف کامل (ویلسون و کیل، ۱۹۹۹) بهش اختصاص داده شده.
ما گاهی به شباهت‌ها و تفاوت‌های بین تکنیک‌های هوش مصنوعی و فرایندهای شناختی انسان اشاره می‌کنیم. اما علوم شناختی واقعی، حتماً باید بر پایه آزمایش‌های تجربی روی انسان‌ها یا حیوانات باشه؛ این بخش رو می‌ذاریم برای وبلاگ‌های دیگه، چون فرض ما اینه که خواننده این مطلب برای آزمایش‌های احتمالی، فقط یه کامپیوتر در اختیار داره.
اوایل که هوش مصنوعی تازه شکل گرفته بود، گاهی این رویکردها با هم قاطی می‌شدن. یه نویسنده ممکن بود بگه یه الگوریتم تو یه کار خوب عمل کرده، پس باید مدل خوبی برای عملکرد انسان هم باشه، یا برعکس. اما نویسنده‌های امروزی این دو نوع ادعا رو جدا از هم بررسی می‌کنن، و همین باعث شده که هم هوش مصنوعی و هم علوم شناختی سریع‌تر پیشرفت کنن.
این دو رشته تأثیر زیادی روی هم دارن؛ مثلاً توی حوزه بینایی کامپیوتری، شواهد نورو-فیزیولوژیکی (عصب‌شناختی) وارد مدل‌های محاسباتی شدن. اخیراً ترکیب روش‌های تصویربرداری مغزی با تکنیک‌های یادگیری ماشینی برای تحلیل این داده‌ها، منجر به پیشرفت‌هایی در توانایی «خواندن ذهن» شدن – بله، دقیقا یعنی فهمیدن محتوای معنایی افکار درونی افراد! این قابلیت می‌تونه به درک بهتر فرایندهای شناختی انسان کمک کنه.
۳. فکرکردن به‌صورت عقلانی: رویکرد «قوانین تفکر»
ارسطو (Aristotle)، فیلسوف یونانی، از اولین کسانی بود که سعی کرد «تفکر درست» رو به شکل قوانین مشخصی تعریف کنه – یعنی فرایندهای استدلالی که غیرقابل‌انکار هستن. قیاس‌های منطقی ارسطو الگوهایی برای ساختار استدلال ارائه دادن که همیشه، با فرض درستی مقدمات، به نتایج درست می‌رسن. یه مثال معروفش اینه:
- «سقراط یک انسان است.»
- «همه انسان‌ها فانی هستند.»
- نتیجه: «پس سقراط فانی است.»
(البته احتمالاً این مثال از سکستوس امپریکوس (Sextus Empiricus) گرفته شده، نه خود ارسطو.) این قوانین تفکر قرار بود نحوه عملکرد ذهن رو توضیح بدن و مطالعه‌شون زمینه‌ساز علمی شد که امروز بهش منطق می‌گیم.
منطق‌دان‌های قرن نوزدهم یه سیستم دقیق برای بیان گزاره‌ها درباره اشیا و روابط بینشون ایجاد کردن. (این سیستم رو می‌شه با نمادگذاری ریاضی معمولی مقایسه کرد که فقط برای بیان گزاره‌های عددی به کار می‌ره.) تا سال ۱۹۶۵، برنامه‌هایی طراحی شده بودن که به‌صورت تئوری می‌تونستن هر مسئله قابل‌حل رو که به زبان منطق بیان شده باشه، حل کنن. رویکرد منطق‌گرا در هوش مصنوعی امیدوار بود باتکیه‌بر چنین برنامه‌هایی، سیستم‌های هوشمند بسازه.
اما منطق به شکلی که معمولاً درک می‌شه، نیاز به اطلاعات قطعی درباره دنیا داره – شرایطی که در واقعیت به‌ندرت پیش می‌آد. مثلاً ما قوانین سیاست یا جنگ رو مثل قوانین شطرنج یا حساب و کتاب نمی‌دونیم. نظریه احتمال این خلأ رو پر می‌کنه و اجازه می‌ده که با اطلاعات غیرقطعی هم استدلال‌های دقیقی انجام بشه.
به‌صورت تئوری، این نظریه می‌تونه یه مدل جامع از تفکر عقلانی ارائه بده که از اطلاعات اولیه حسی شروع می‌کنه، به درک چگونگی کارکرد دنیا می‌رسه، و پیش‌بینی‌هایی درباره آینده ارائه می‌ده. اما چیزی که این نظریه انجام نمی‌ده، ایجاد رفتار هوشمنده. برای این کار، ما به یه نظریه درباره عمل عقلانی نیاز داریم. چون تفکر عقلانی به‌تنهایی کافی نیست.
۴. عمل به‌صورت عقلانی: رویکرد عامل عقلانی
عامل (Agent) به هر چیزی گفته می‌شه که کاری انجام بده (این اسم از کلمه لاتین agere به معنی «عمل‌کردن» گرفته شده). البته همه برنامه‌های کامپیوتری یه کاری انجام می‌دن، اما از عوامل کامپیوتری انتظار بیشتری می‌ره: این عوامل باید خودمختار باشن، محیطشون رو درک کنن، برای مدت طولانی دوام بیارن، با تغییرات سازگار بشن، و اهدافی ایجاد کنن و برای رسیدن به اون‌ها تلاش کنن. یه عامل عقلانی، عاملیه که طوری عمل می‌کنه که بهترین نتیجه رو به دست بیاره یا وقتی عدم قطعیت وجود داره، بهترین نتیجه مورد انتظار رو محقق کنه.
توی رویکرد «قوانین تفکر» در هوش مصنوعی، تاکید روی استنتاج‌های درست بود. درست استنتاج‌کردن، گاهی بخشی از عقلانی عمل کردنه، چون یکی از راه‌های عمل عقلانی اینه که نتیجه‌گیری کنیم یه عمل خاص بهترین گزینه‌ست و بعد طبق اون نتیجه‌گیری عمل کنیم. بااین‌حال، راه‌های دیگه‌ای هم برای عمل عقلانی وجود داره که لزوماً شامل استنتاج نمی‌شه. مثلاً عقب کشیدن دست از روی یه اجاق داغ، یه واکنش انعکاسیه که معمولاً موفق‌تر از واکنشیه که بعد از کلی فکر و تحلیل انجام می‌دیم.
تمام مهارت‌هایی که برای عبور از آزمون تورینگ لازمه، به یه عامل کمک می‌کنه که عقلانی عمل کنه. نمایش دانش و استدلال به عوامل کمک می‌کنه تصمیمات خوبی بگیرن. ما نیاز داریم که بتونیم جملات قابل فهمی توی زبان طبیعی بسازیم تا توی یه جامعه پیچیده از پس کارها بربیایم. علاوه بر این، یادگیری نه‌تنها باعث افزایش دانش ما می‌شه، بلکه توانایی‌مون رو برای ایجاد رفتار مؤثر، مخصوصاً در شرایط جدید، بهبود می‌ده.
رویکرد عامل عقلانی در هوش مصنوعی نسبت به بقیه رویکردها دو مزیت داره:
- کلی‌تره. چون استنتاج درست فقط یکی از مکانیزم‌های ممکن برای دستیابی به عقلانیته.
- پایه علمی قوی‌تری داره. چون استاندارد عقلانیت به‌صورت ریاضی به‌خوبی تعریف شده و کاملاً عمومیه. اغلب می‌تونیم از این تعریف شروع کنیم و طراحی عواملی رو به دست بیاریم که عقلانیت رو به طور اثبات‌پذیری محقق می‌کنن – چیزی که وقتی هدف تقلید از رفتار یا فرایندهای فکری انسان باشه، عملاً امکان‌پذیر نیست.
به همین دلایل، رویکرد عامل عقلانی در طول تاریخ هوش مصنوعی غالب بوده. توی دهه‌های اولیه، عوامل عقلانی بر پایه منطق ساخته می‌شدن و برنامه‌های مشخصی برای دستیابی به اهداف معین طراحی می‌کردن. بعدها، روش‌هایی مبتنی بر نظریه احتمال و یادگیری ماشین امکان ساخت عواملی رو فراهم کردن که می‌تونن توی شرایط نامطمئن تصمیماتی بگیرن که بهترین نتیجه مورد انتظار رو داشته باشه.
به طور خلاصه، تمرکز هوش مصنوعی روی مطالعه و ساخت عواملی بوده که «کار درست» رو انجام بدن. اینکه «کار درست» چی باشه، با هدفی که برای عامل تعیین می‌کنیم تعریف می‌شه. این پارادایم کلی اون‌قدر فراگیر شده که می‌شه بهش گفت مدل استاندارد. این مدل فقط توی هوش مصنوعی نیست؛ بلکه توی نظریه کنترل (که کنترل‌گرها سعی می‌کنن هزینه رو به حداقل برسونن)، تحقیقات عملیاتی (که سیاست‌ها سعی می‌کنن پاداش رو حداکثر کنن)، آمار (که قواعد تصمیم‌گیری سعی می‌کنن ضرر رو به حداقل برسونن)، و اقتصاد (که تصمیم‌گیرها سعی می‌کنن مطلوبیت یا یه معیار رفاه اجتماعی رو حداکثر کنن) هم وجود داره.
البته باید یه نکته مهم رو به مدل استاندارد اضافه کنیم: اینکه عقلانیت کامل – یعنی اتخاذ بهینه‌ترین تصمیم در تمام حالات و همیشه – توی محیط‌های پیچیده عملی نیست. چون محاسبات لازم برای این کار خیلی زیادن. در آینده به موضوع عقلانیت محدود می‌پردازیم – عقلانیت محدود یعنی اقدام مناسب در شرایطی که زمان کافی برای انجام همه محاسبات لازم رو نداریم. بااین‌حال، عقلانیت کامل اغلب یه نقطه شروع خوب برای تحلیل‌های تئوریه.
ماشین‌های مفید
مدل استاندارد از زمان شروع تحقیقات در زمینه هوش مصنوعی راهنمای خوبی بوده، اما احتمالاً در بلندمدت بهترین مدل نخواهد بود. دلیل این موضوع اینه که مدل استاندارد فرض می‌کنه ما یه هدف کاملاً مشخص و دقیق به ماشین می‌دیم.
برای وظایف تعریف‌شده و مصنوعی مثل شطرنج یا محاسبه کوتاه‌ترین مسیر، هدف به طور ذاتی همراه با وظیفه تعریف می‌شه – بنابراین مدل استاندارد اینجا کاربرد داره؛ اما وقتی وارد دنیای واقعی می‌شیم، مشخص‌کردن هدف کامل و صحیح، دشوارتر و پیچیده‌تره. برای مثال، در طراحی یه ماشین خودران ممکنه فکر کنیم که هدف، رسیدن ایمن به مقصد باشه. اما حرکت در هر جاده‌ای خطراتی مثل تصادف با راننده‌های بی‌دقت، خرابی تجهیزات و غیره رو به همراه داره؛ پس، اگه هدف دقیقاً ایمنی مطلق باشه، ماشین باید توی گاراژ بمونه! در واقع، بین پیشرفت به سمت مقصد و ریسک آسیب‌دیدگی باید یه توازن برقرار کنیم.
حالا سؤال اینه که این توازن چطور باید تنظیم بشه؟ علاوه بر این، چقدر می‌تونیم به ماشین اجازه بدیم که رفتارهایی انجام بده که ممکنه بقیه راننده‌ها رو اذیت کنه؟ ماشین چقدر باید شتاب‌گیری، فرمان و ترمز رو تعدیل کنه تا مسافر اذیت نشه؟ این نوع سؤالات معمولاً قبل از اجرا جواب قطعی ندارن. این چالش‌ها به‌ویژه در حوزه تعامل انسان و ربات، مثل ماشین‌های خودران، خیلی رایج هستن.
مشکل اینه که چطور می‌تونیم بین ترجیحات واقعی انسان‌ها و هدفی که به ماشین منتقل می‌کنیم توافق ایجاد کنیم. این موضوع به‌عنوان مسئله هم‌راستایی ارزش‌ها (Value Alignment Problem) شناخته می‌شه: ارزش‌ها یا اهدافی که به ماشین داده می‌شه باید با ارزش‌های انسان‌ها هماهنگ باشه.
وقتی سیستم هوش مصنوعی رو توی آزمایشگاه یا شبیه‌ساز توسعه می‌دیم – مثل بیشتر موارد در تاریخ این حوزه – یه راه‌حل ساده برای هدف اشتباه وجود داره: سیستم رو ریست می‌کنیم، هدف رو اصلاح می‌کنیم، و دوباره امتحان می‌کنیم. اما وقتی این فناوری پیشرفت می‌کنه و سیستم‌های هوشمندتر وارد دنیای واقعی میشن، این روش دیگه جواب نمی‌ده. یه سیستم که با هدف اشتباه اجرا بشه، عواقب منفی به بار میاره. هرچی سیستم هوشمندتر باشه، این عواقب شدیدتر میشن.
حتی در مورد مثلاً شطرنج که به نظر بدون مشکل میاد، اگه ماشین اون‌قدر هوشمند باشه که بتونه فراتر از صفحه شطرنج فکر و عمل کنه، ممکنه روش‌هایی مثل هیپنوتیزم‌کردن حریف، باج‌گیری یا تطمیع تماشاگرها برای سروصدا کردن توی زمان فکرکردن حریف رو استفاده کنه. حتی ممکنه تلاش کنه قدرت محاسباتی بیشتری رو برای خودش بدزده.
این رفتارها نه «غیرهوشمندانه» هستن و نه «دیوانه‌وار»؛ بلکه نتیجه تعریف منطقی «پیروزی» به‌عنوان تنها هدف برای ماشین هستن.
ما نمی‌تونیم برای یه ماشین که در حال دنبال‌کردن یه هدف ثابته، تمام حالاتی که ممکنه رفتار نامطلوب بروز بده رو پیش‌بینی کنیم. به همین دلیل منطقیه که فکر کنیم مدل استاندارد کافی نیست. ما ماشین‌هایی نمی‌خوایم که فقط هدف خودشون رو دنبال کنن؛ ما می‌خوایم اون‌ها اهداف ما رو دنبال کنن.
اگه نتونیم این اهداف رو به طور کامل و بی‌نقص به ماشین منتقل کنیم، باید یه فرمول جدید طراحی کنیم – فرمولی که توش ماشین اهداف ما رو دنبال می‌کنه، ولی به طور ذاتی نمی‌دونه این اهداف دقیقاً چیا هستن. وقتی یه ماشین بدونه که نمی‌دونه هدف کامل چیه، انگیزه داره که محتاطانه عمل کنه، اجازه بگیره، از طریق مشاهده ترجیحات ما رو بهتر بشناسه، و به کنترل انسانی احترام بذاره.
بنابراین و در نهایت، ما می‌خوایم عوامل هوش مصنوعی‌ای داشته باشیم که به طور اثبات‌پذیر برای انسان‌ها مفید باشن. این تعریفی دقیق و جوابی ابتدایی برای پاسخ به سؤالیه که اول مطلب بیان کردیم.
جمع بندی
احتمالاً با خودتون می‌گین پس تعریف و توضیح شبکه‌های عصبی و یادگیری ماشین و بینایی ماشین و غیره و غیره چی شد پس؟! که در جواب باید بگیم کمی صبور باشین. مگه غیر از اینه که شما کامل‌ترین جواب و بهترین جواب و درعین‌حال خلاصه و مفیدترین جواب رو می‌خواین؟ خب؛ در این صورت باید بدونین که هوش مصنوعی، یک فناوری بسیار گسترده و بزرگه و خیلی چیزهای جذاب داره که هیچ بلاگ و سایتی راجع بهشون یکجا صحبت نکرده. کاری که ما قصد داریم انجام بدیم و امیدواریم راضی باشین.
در آینده به این دسته از موضوعاتی که بیشتر رایج شدن هم می‌پردازیم. علی‌الحساب هدف این بود که بفهمیم «هوش مصنوعی چیست» و این مسئله رو از پایه و از اولش بررسی کرده باشیم. به شما قول می دیم که پایبند کامل‌بودن و درست بودن مطلب باقی بمونیم و محتوای الکی تحویلتون ندیم. لطفاً توی بخش نظرات با ما در ارتباط باشین. منتظر پیام‌های شما هستیم (هرچه می‌خواهد دل تنگتان بگویید)!
عکس ابتدای مطلب رو شناختین؟
