بخشی که تلاش میکند هوش مصنوعی را ساده نشان دهد
مسئله تصمیمگیری در هوش مصنوعی این است که همه طوری وانمود میکنند که آن را میفهمند—تا زمانی که یا یک تصمیم درخشان میگیرد یا با صورت در یک اشتباه واضح سقوط میکند. سپس ناگهان تبدیل به «بیش از حد پیچیده» یا «جعبه سیاه» میشود، انگار که ریاضیات روی پوست موز سر خورده است. اگر تا به حال یک درباره تصمیمگیری در هوش مصنوعی را دیده باشید، روال کار را میدانید: فلشهای بزرگ، نمودارهای جریان و تکههای کلیپآرت که حتمی بودن را القا میکنند. این حتمی نیست. این انتخابها تا انتها ادامه دارند.
این یک بررسی عمیق در مورد الگوریتمها—الگوریتمهای واقعی—است که برای تصمیمگیری در هوش مصنوعی استفاده میشوند. نه یک مجموعه اسلاید با فلشهای جعبهای. هدف این است که نمایش «هوش مصنوعی برای ما تصمیم میگیرد» را کنار بگذاریم و در مورد اینکه این سیستمها چگونه واقعاً انتخاب میکنند، صحبت کنیم. : آنها کمتر شبیه غیبگویان عالم هستند و بیشتر شبیه استدلالکنندههای بسیار سریع و بسیار تحتالفظی هستند که هرگز مجبور نبودهاند در ترافیک بنشینند یا برای زمان خواب یک کودک نوپا مذاکره کنند.
منظور ما از «تصمیمگیری در هوش مصنوعی» چیست (و ها به ندرت اعتراف میکنند)
«تصمیمگیری در هوش مصنوعی» پرطمطراق به نظر میرسد، اما در عمل مجموعهای از تکنیکها است: استدلال مبتنی بر قانون، جستجو، بهینهسازی، استنتاج احتمالی، یادگیری تقویتی، برنامهریزی و سیستمهای ترکیبی که کل این آشفتگی را به هم میدوزند. الگوریتمها چیزی را «نمیخواهند». آنها توابع خاصی را تحت محدودیتهای خاص بهینه میکنند. تابع یا محدودیتها را عوض کنید و یک «هوش» متفاوت به دست میآورید. اگر این موضوع واضح به نظر میرسد، تبریک میگوییم—شما از نیمی از اسلایدهای جلوترید.
مشکل واقعی اکثر های تصمیمگیری در هوش مصنوعی این نیست که آنها سادهسازی میکنند. این است که آنها در جهت اشتباه سادهسازی میکنند. آنها اینطور القا میکنند که مدلها تصمیم میگیرند زیرا «یاد گرفتهاند». یادگیری تصمیمگیری نیست. یادگیری یک سیاست یا یک مدل را به شما میدهد؛ تصمیمگیری اجرای آن سیاست در زمینهای است که هرگز دقیقاً شبیه دادههای آموزشی نیست. تفاوت بین حفظ کردن یک شروع بازی شطرنج و زنده ماندن در هرج و مرج وسط بازی—اولی در یک نکته گلولهای خوب به نظر میرسد؛ دومی چیزی است که باعث پیروزی میشود.
ابزارهای واقعی: از قوانین تا پاداشها
بیایید از مواردی که قدیمی به نظر میرسند (اما هنوز مهم هستند) تا تکنیکهایی که سیستمهای مدرن را تغذیه میکنند، قدم بزنیم. صحبت ساده، بدون رمانس.
سیستمهای مبتنی بر قانون: هنوز نمردهاند، فقط صادق هستند
قوانین برای برخی از افراد هوش مصنوعی خجالتآور هستند، مانند پوشیدن جوراب با صندل. اما تصمیمگیری مبتنی بر قانون یک مزیت بزرگ دارد: شفافیت. اگر یک در مورد تصمیمگیری در هوش مصنوعی قوانین را به عنوان «قدیمی» نادیده بگیرد، نیمی از داستان را پنهان میکند. سیستمهای خبره دانش دامنه را به صورت گزارههای اگر-آنگاه رمزگذاری میکنند. آنها شکنندهاند، بله، اما قابل ممیزی هستند. وقتی به قطعیت و قابلیت ردیابی نیاز دارید—بررسیهای انطباق، پروتکلهای تریاژ پزشکی—قوانین نه تنها هنوز کار میکنند؛ بلکه بهتر کار میکنند.
- مزایا: قطعی، قابل توضیح، اشکالزدایی آسان
- معایب: شکننده، مقیاسبندی در دامنههای نامرتب دشوار است
شما میدانید که یک سیستم قانون چه زمانی شکست میخورد زیرا به شما میگوید. اکثر سیستمهای مدرن بیصدا شکست میخورند.
جستجو و بهینهسازی: تصمیمات به عنوان ناوبری
قبل از اینکه همه چیز را روی اقیانوسهای داده آموزش دهیم، جستجو میکردیم. جستجوی اول-سطح، جستجوی اول-عمق، ، جستجوی پرتو. این زرق و برق دار نیست، اما هر زمان که در حال حل یک مسئله مسیریابی هستید—به معنای واقعی کلمه یا استعاری—جستجو ستون فقرات است. با یک اکتشافی خوب، یک مدل «هوشمند» با یک هدف احمقانه را شکست میدهد.
بهینهسازی این را تعمیم میدهد: شما یک تابع هدف و محدودیتها را تعیین میکنید، سپس به سمت بهترین راه حلی که میتوانید با محاسباتی که دارید بپردازید، حرکت میکنید. برنامهریزی خطی، برنامهریزی عدد صحیح مختلط، الگوریتمهای تکاملی—آش شله قلمکار رسیدن از «تقریباً خوب» به «به اندازه کافی خوب» تحت یک ضربالاجل.
- مزایا: تضمینهای اثباتپذیر، مبادلات قابل کنترل
- معایب: مدلسازی دشوار است؛ اهداف میتوانند به روشهای ظریف و فاجعهبار نادرست مشخص شوند
وقتی یک مدل کار عجیبی انجام میدهد، اغلب به این دلیل است که دقیقاً همان چیزی را که خواستهاید به دست آوردهاید—فقط نه آنچه که منظورتان بوده است.
استدلال احتمالی: عدم قطعیت یک ویژگی است
شبکههای بیزی، مدلهای مخفی مارکوف، فیلترهای کالمن: کلاسیکها. به جای اینکه وانمود کنیم دنیا قطعی است، این روشها یک آمار جاری از عدم قطعیت را نگه میدارند و اقداماتی را انتخاب میکنند که در برابر آن محافظت میکنند. به عبارت دیگر، واقعگرایی.
- مزایا: اصولی در شرایط عدم قطعیت؛ ساختار قابل تفسیر
- معایب: مقیاسبندی به آشفتگیهای با ابعاد بالا دردناک است؛ فرضیات پس میزنند
روشهای احتمالی همان چیزی هستند که بیشتر اسلایدهای تصمیمگیری در هوش مصنوعی با «نمرات اطمینان» به آن اشاره میکنند. اطمینان احتمال نیست. احتمال ریاضیات با رسید است.
یادگیری تقویتی: پاداشها قوانین را میسازند
یادگیری تقویتی—یادگیری ، گرادیانهای سیاست، انواع بازیگر-منتقد—تصمیمگیری را به عنوان آزمون و خطا با یک تابلوی امتیازات چارچوببندی میکند. شما اقداماتی را انتخاب میکنید، محیط به شما پاداش میدهد و شما سیاست خود را به سمت اقداماتی سوق میدهید که در طول زمان نتیجه میدهند. اینجاست که هوش مصنوعی واقعاً «تصمیم میگیرد»، به این معنا که یک بازی را انجام میدهد—بازیای که شما طراحی کردهاید، چه متوجه شده باشید و چه نشده باشید.
- مزایا: قوی برای وظایف تصمیمگیری متوالی؛ استراتژیهایی را یاد میگیرد که شما به طور صریح کدگذاری نکردهاید
- معایب: هک کردن پاداش؛ ناکارآمدی نمونه؛ تعمیم شکننده وقتی دنیا حتی کمی تغییر میکند
مردم دوست دارند ادعا کنند که یادگیری تقویتی «مانند نحوه یادگیری انسانها است». واقعاً نه. انسانها پیشینهها، بدنها، خستگی و عقل سلیم دارند. عاملهای یک تابع پاداش و صبر بیپایان برای امتحان کردن مزخرفات تا زمانی که کار کند دارند.
برنامهریزی و ها: دنیا نیمهقابل مشاهده است
تصمیمگیری در دنیای واقعی به ندرت با اطلاعات کامل همراه است. فرآیندهای تصمیمگیری مارکوف تا حدی قابل مشاهده (ها) این عدم قطعیت را به طور صریح مدل میکنند: شما وضعیت را نمیدانید، فقط مشاهداتی که به آن اشاره میکنند. برنامهریزی تحت مشاهدهپذیری جزئی شما را مجبور میکند یک وضعیت اعتقادی را حفظ کنید—یک اصطلاح فانتزی برای «آنچه فکر میکنیم در حال رخ دادن است، با توجه به آنچه که دیدهایم».
- مزایا: صادقانه درباره عدم قطعیت؛ مبانی رسمی برای اقدام معقول
- معایب: از نظر محاسباتی وحشیانه است؛ تقریبها یک شر ضروری هستند
اگر شما در مورد تصمیمگیری در هوش مصنوعی حداقل «» را زمزمه نکند، با واقعیت به عنوان یک تنظیمات اختیاری رفتار میکند.
سیستمهای ترکیبی و ترکیبهای عصبی-نمادین
شبکههای عصبی میبینند و برچسب میزنند؛ سیستمهای نمادین توضیح میدهند و محدود میکنند. آنها را به هم بچسبانید و چیزی مفید به دست میآورید. مدل بینایی برای ادراک، قوانین برای ایمنی. مدل زبانی برای اقدامات کاندید، برنامهریز برای امکانسنجی. این ترکیبات فقط مد روز نیستند؛ آنها منعکسکننده فروتنی مهندسی هستند: از یک مدل یاد گرفته شده در جایی که ادراک دشوار است استفاده کنید، از منطق صریح در جایی که سهام بالا است استفاده کنید.
- مزایا: عملی، قابل کنترل، بهترین هر دو
- معایب: سردردهای ادغام، رابطهای شکننده، پیچیدگی تکراری
حلقه تصمیمگیری: برای ماشینها، با اختصارات کمتر
بیشتر سیستمهای تصمیمگیری هوش مصنوعی یک حلقه را اجرا میکنند: مشاهده، استنباط، برنامهریزی، اقدام، تکرار. اسلایدها دایرهها و فلشها را دوست دارند؛ نکته مهم تنش است. هر مرحله سازش میکند. مشاهده (اما نه همه چیز). استنباط (اما عدم قطعیت خود را حفظ کنید). برنامهریزی (اما تحت زمان). اقدام (اما دنیا را به آتش نکشید).
- ادراک به نمادها: از دادههای خام به ویژگیها. اطلاعات را از دست بدهید، امیدوارم اطلاعات درست را.
- پیشبینی به باور: از ویژگیها به یک توزیع بر آنچه که واقعاً در حال وقوع است.
- سیاست به برنامه: از باور فعلی به یک توالی اقدام، محدود به محاسبات و اشتیاق به خطر.
- اقدام به بازخورد: اقدام کنید، نتایج را اندازهگیری کنید، باورها و پارامترها را به روز کنید. اگر حلقه شما با تجربه بهتر نمیشود، اتوماسیون است، نه هوش مصنوعی.
بزرگترین اشتباه در یک در مورد تصمیمگیری در هوش مصنوعی این است که وانمود کنیم حلقه تمیز است. در تولید، سنسورها منحرف میشوند، انسانها مداخله میکنند و معیارها با یکدیگر مبارزه میکنند. سیستمهای عالی سیستمهایی هستند که وقتی دنیا شانه بالا میاندازد، به آرامی تخریب میشوند.
بررسی عمیق الگوریتمها (بدون سس کلمات کلیدی مد روز)
بیایید واقعاً نگاهی به الگوریتمهایی که مردم استفاده میکنند بیندازیم—آنها چه چیزی را حل میکنند، چگونه شکست میخورند و کجا میدرخشند.
راهزنان چند مسلح: اکتشاف بدون درام
وقتی نیاز دارید تعادل بین امتحان کردن چیزهای جدید و بهرهبرداری از آنچه کار میکند را برقرار کنید—انتخاب تبلیغات، تغییرات توصیهها، آزمایشهای —راهزنان چند مسلح برای سرعت، آزمایش را شکست میدهند. نمونهبرداری تامپسون مورد علاقه عملگرایانه است: بیزی، ساده، مؤثر. وانمود نمیکند که یک عامل کامل است. برای آن بهتر است.
- از آن برای: تصمیمگیری آنلاین سریع با بازخورد استفاده کنید
- از آن برای: استراتژی افق بلند، وابستگیهای پیچیده، هر چیز حیاتی برای ایمنی استفاده نکنید
جستجوی درخت مونت کارلو: بازی کردن دوراندیشی با بودجه
آینده را نمونهبرداری میکند، نه همه آنها را، فقط به اندازه کافی از موارد محتمل را. این معادل الگوریتمی «بیایید در این مورد فکر کنیم، اما نه تمام بعد از ظهر» است. در بازیها و برنامهریزی ساختاریافته، برنده میشود. در آشفتگیهای باز، ساختاری را توهم میکند که وجود ندارد.
- عالی برای: فضاهای تصمیمگیری محدود و مدلسازی شده (بازیها، برنامهریزی محدود)
- ضعیف برای: هرج و مرج مدلسازی نشده (انسانها، بازارها، )
برنامهنویسی پویا: بهینه با یک گرفتاری
معادلات بلمن، تکرار مقدار، تکرار سیاست. جواهرات تاج نظریه کنترل، با تاجی ساخته شده از رشد نمایی. اگر فضای حالت منفجر شود، خوشبینی شما نیز همینطور.
- عالی برای: دنیاهای مارکوفی کوچک تا متوسط با پویایی شناخته شده
- ضعیف برای: هر چیز دیگری، مگر اینکه تقریب بزنید (که به این معنی است، همیشه)
اکتشافیها و فرااکتشافیها: اسبهای بارکش بیتظاهر
بازپخت شبیهسازی شده، جستجوی ممنوعه، الگوریتمهای ژنتیک. اینها «سعی کنید کارهای زیادی انجام دهید، بهترین را نگه دارید، ادامه دهید» با شکوه هستند. این یک توهین نیست. بیشتر تصمیمات واقعی در مقیاس بزرگ اینگونه به نظر میرسند زیرا واقعیت به شما اجازه نمیدهد بنشینید و یک معادله دقیق را در حالی که ساعت به پایان میرسد حل کنید.
- عالی برای: مسائل ترکیبی سخت که در آن بهینه یک خیال است
- ضعیف برای: دامنههایی که در آن تضمینها مهمتر از سرعت هستند
مدلهای علی: زیرا همبستگی یک هنرمند کلاهبردار است
تصمیمگیری علی—بله، پرل، نمودارها، مداخلات—به شما راهی میدهد تا بپرسید «اگر واقعاً چیزی را تغییر دهیم چه میشود؟» به جای «دفعه قبل چه اتفاقی افتاد؟» اگر شما در مورد تصمیمگیری در هوش مصنوعی استنتاج علی را نام نبرد، اما محصول شما انتخابهایی را انجام میدهد که بر افراد تأثیر میگذارد، شما در حال ساختن یک موتور توصیهگر برای پشیمانی هستید.
- عالی برای: سیاست، پزشکی، تغییرات محصول با اثرات مرتبه دوم
- ضعیف برای: وظایف صرفاً پیشبینیکننده که در آن خلاف واقعها مهم نیستند
دو مشکل سخت: اهداف و محدودیتها
اولین دروغ در تصمیمگیری هوش مصنوعی این است که ما در حال بهینهسازی «عملکرد» هستیم. دقیقاً چه چیزی را بهینه میکنیم؟ کلیکها؟ زمان کار؟ درآمد؟ ایمنی؟ انصاف؟ تأخیر؟ اگر آن را مشخص نکنید، یک سیستم ندارید—یک آرزو دارید. تابع هدف محصول است. با آن مانند نمونههای قانونی رفتار کنید و مانند نمونههای قانونی گاز میگیرد.
- مبادلات چندهدفه اشکال نیستند. آنها شغل هستند. آنها را به طور صریح وزن کنید، درد را صادقانه اندازهگیری کنید و وانمود نکنید که جبهههای پارتو قطبنماهای اخلاقی هستند.
- محدودیتها پس از فکر نیستند. آنها نحوه محدود کردن آسیب هستند. محدودیتهای سخت (نه، واقعاً، هرگز از تجاوز نکنید) با مجازاتهای نرم (لطفاً از تجاوز نکنید مگر اینکه سودآور باشد) متفاوت هستند. آنها را طوری بنویسید که منظورتان این است.
خودفریبی مورد علاقه صنعت این است که فکر کنیم دادههای بیشتر یک هدف بد را اصلاح میکنند. اینطور نیست. چیز اشتباه را بسیار کارآمد میکند.
قابلیت توضیح اختیاری نیست؛ زمینه است
فشار برای هوش مصنوعی قابل توضیح اغلب به عنوان یک مزاحمت انطباق تلقی میشود. این برعکس است. «قابلیت توضیح» نحوه ایجاد اعتماد با افرادی است که به تصمیم تکیه میکنند—حتی اگر مهندس باشند. شما باید بدانید چرا مدل گفت «به چپ بپیچ»، نه برای راضی کردن یک تنظیمکننده، بلکه برای اشکالزدایی یک خرابی قبل از اینکه دوباره اتفاق بیفتد.
- توضیحات (نقشههای برجستگی، ) بهتر از هیچ هستند، اما آنها رژ لب هستند—رژ لب مفید—روی خوکی که ممکن است یک اسب مسابقه باشد.
- قابلیت تفسیر داخلی (مدلهای یکنواخت، مدلهای افزودنی تعمیم یافته، قوانین با آستانههای آموخته شده) کمی از دقت خام را با رفتار قابل پیشبینی معامله میکند. در بسیاری از دامنهها، این یک معامله خوب است.
اگر شما در مورد تصمیمگیری در هوش مصنوعی یک نقشه حرارتی رنگارنگ را نشان میدهد و آن را یک روز مینامد، شما دقیقاً یاد گرفتهاید که چگونه یک سیستم را در تولید اجرا نکنید.
مدلهای زبانی بزرگ و سراب تصمیم
بله، ها میتوانند تصمیم بگیرند—یا حداقل میتوانند تصمیماتی را با تسلط عجیب و غریب پیشنهاد دهند. آنها در طراحی فضاهای گزینه، فهرست کردن مبادلات، حتی نوشتن داربست اطراف یک حلقه برنامهریزی عالی هستند. اما قسمت فریبنده بدترین قسمت است: آنها حتی زمانی که در حال ساختن آن هستند، با اعتماد به نفس به نظر میرسند.
الگوی ایمن این نیست که «به مدل اجازه دهید تصمیم بگیرد». این است: به مدل اجازه دهید پیشنهاد دهد، با قوانین محدود کنید، با یک برنامهریز یا بهینهساز اعتبارسنجی کنید و هر مرحله را ثبت کنید. ها را در حلقه قرار دهید، نه پشت فرمان. شما اجازه نمیدهید تصحیح خودکار ماشین شما را براند.
از اسلایدها به سیستمها: چه چیزی واقعاً در تولید کار میکند
یک سیستم تصمیمگیری کارآمد در هوش مصنوعی شبیه یک اسلاید نیست. شبیه است به:
- یک هدف روشن که واقعیت را منعکس میکند، نه امید.
- محدودیتهایی که در جایی که باید سخت باشند، در جایی که میتوانند نرم باشند.
- یک خط لوله داده که قطعات گمشده خود را میپذیرد.
- یک موتور تصمیمگیری که روشها را ترکیب میکند: ادراک آموخته شده، استنتاج احتمالی و یک سیاست که میتواند بگوید «مطمئن نیستم».
- قابلیت مشاهده: ردیابی، توضیحات و بازگشت.
- نظارت انسانی با اختیار لغو.
این قسمت آخر در برخی محافل زننده تلقی میشود. «هوش مصنوعی باید خودمختار باشد.» شاید. یا شاید فروتنی حرفهای از ستیزهجویی مطبوعاتی بهتر باشد.
سوال اجتنابناپذیر «ابزارها»
شما میتوانید این پشته تصمیمگیری را با یک صورت فلکی از کتابخانهها و خدمات جمعآوری کنید. بسیاری خوب هستند. تعداد کمتری سازگار هستند. بهترین تنظیمات اصطکاک را کاهش میدهند—پیادهسازی درخواستها، بازرسی خروجیها، زنجیرهسازی استدلال، آزمایش موارد حاشیهای—و ایجاد حفاظها را در جایی که مهم هستند آسان میکنند.
Sider.AI را به عنوان یک مثال عملی در نظر بگیرید. سعی نمیکند یک موجود ذیشعور را به شما بفروشد. این ابزاری است که واقعاً به مهار کردن وسط نامرتب کمک میکند: پیشنویس زنجیرههای استدلال، مقایسه گزینههای الگوریتمی و قرار دادن کمک در جایی که سازنده است به جای نمایشی. در قسمتهای غیر جذاب خوب است—تکرار، بازرسی و «چه چیزی بین نسخههای 12 و 13 تغییر کرده است؟» در دنیای هیاهو، «واقعاً کار میکند» یک ابرقدرت است. افسانههای رایج از مدار تصمیمگیری در هوش مصنوعی
- افسانه: «دادههای بیشتر مدلهای بهتر را شکست میدهند.» گاهی اوقات. اغلب تفکر بد را شکست میدهد. یک هدف روشن با دادههای متوسط میتواند از یک شیلنگ آتش نشانی که به سمت متریک اشتباه نشانه رفته است بهتر عمل کند.
- افسانه: «جعبه سیاه اجتنابناپذیر است.» نه. گاهی اوقات راحت است. شما میتوانید لایههای قابل تفسیر را در اطراف هستههای مبهم بسازید. شما فقط باید اهمیت دهید.
- افسانه: «اکتشاف خطرناک است.» مطمئناً—و رکود نیز همینطور. راهزنان به دلیلی وجود دارند.
- افسانه: «خودمختاری هدف است.» خودمختاری یک وسیله است. قابلیت اطمینان هدف است.
مطالعات موردی: جایی که لاستیک به جاده میرسد
- مسیریابی لجستیک: برای امکانسنجی، برای هزینه، اکتشافیها برای هرج و مرج مایل آخر. پیشبینی تقاضا را با عدم قطعیت بپاشید و یک سیستم قوی به دست آورید. نه، یک شبکه عمیق سرتاسری واحد در هفته دوم که شهر یک پل را میبندد، بهتر عمل نخواهد کرد.
- تریاژ پزشکی: قوانین برای ایمنی سخت، مدلهای احتمالی برای امتیازدهی خطر، انسان در حلقه برای پرتها. فضیلت سیستم سرعت نیست؛ دانستن زمان کاهش سرعت است.
- اعتدال محتوا: طبقهبندی برای تریاژ، قوانین سیاست برای محدودیتهای قانونی، تجدیدنظر به انسانها. شما این را «حل» نخواهید کرد، آن را مدیریت خواهید کرد—مانند چمنزنی یک چمن که به پهلو رشد میکند.
چگونه یک سیستم تصمیمگیری را قضاوت کنیم (نه مجموعه اسلاید)
سه سوال بپرسید:
- دقیقاً چه چیزی را بهینه میکنید؟ اگر پاسخ بیش از یک جمله یا کمتر از یک جمله طول بکشد، نگران شوید.
- وقتی دنیا تغییر میکند چه اتفاقی میافتد؟ اگر پاسخ «آموزش مجدد» است، آنها در مورد رانش فکر نکردهاند.
- از کجا میدانید که اشتباه میکنید؟ اگر پاسخ سکوت است، دور شوید.
ساختن بررسی عمیق خودتان: یک طرح عملی
اگر در حال جمعآوری خود در مورد تصمیمگیری در هوش مصنوعی هستید—زیرا همه ما در نهایت گناهکار هستیم—آن را بر اساس صداقت بسازید:
- با حلقه تصمیمگیری و تابع هدف خود شروع کنید. یک اسلاید، متن ساده.
- «یادگیری» را از «تصمیمگیری» جدا کنید. دو اسلاید، فقط مثالها.
- محدودیتهای خود را نشان دهید و چرا سخت هستند. یک اسلاید، بدون حسن تعبیر.
- الگوریتمها را برای ادراک، استنتاج، برنامهریزی انتخاب کنید. برای هر کدام، حالتهای شکست را فهرست کنید.
- نظارت را توضیح دهید: رانش، لغو، کتابهای بازی حادثه.
- با خطرات حل نشده به پایان برسانید. اگر هیچ کدام را ندارید، کارتان تمام نشده است.
قدرت آرام گفتن «نمیدانم»
سیستمهای هوش مصنوعی باید بتوانند امتناع کنند. اسمش را تصمیمگیری آگاه از عدم قطعیت، پیشبینی انتخابی یا هر چیز دیگری بگذارید. توانایی گفتن «رد» تفاوت بین یک ابزار و یک مسئولیت است. انسانها این کار را غریزی انجام میدهند. ما سیستمهای زیادی ساختهایم که نمیتوانند این کار را انجام دهند.
این موضوع ما را به کجا میرساند
تصمیمگیری در هوش مصنوعی جادو نیست و یک بررسی عمیق در الگوریتمها نباید شبیه یک ارائه برای یک مذهب جدید باشد. این مهندسی است—اهداف دقیق، محدودیتهای صریح، عدم قطعیت رک و راست، و تمایل به معاوضه ظرافت با قابلیت اطمینان. دفعه بعد که یک {PPT} به شما گفت سیستم «یاد گرفته تصمیم بگیرد»، از آن بپرسید وقتی پل خراب است، معیار اشتباه است یا کاربر کاری انجام میدهد که هیچکس پیشبینی نکرده چه اتفاقی میافتد.
اگر پاسخ یک فلش بزرگتر است، شما تصمیم خود را گرفتهاید.
پیوست آگاه از کلمات کلیدی (بدون انباشت کلمات کلیدی)
- تصمیمگیری در هوش مصنوعی: عمل انتخاب اقدامات در شرایط عدم قطعیت با استفاده از اهداف و محدودیتهای صریح.
- بررسی عمیق الگوریتمها: نه یک استعاره—جستجو، بهینهسازی، استنتاج احتمالی، یادگیری تقویتی، برنامهریزی، مدلسازی علّی، ترکیبی.
- نکته عملی: روشها را با هم ترکیب کنید، محدودیتها را سختتر کنید، عدم قطعیت را بپذیرید، همه چیز را ابزار دقیق کنید و در برابر وسوسه تظاهر به اینکه یک اسلاید یک سیستم است، مقاومت کنید.
سوالات متداول
پرسش 1: تصمیمگیری در هوش مصنوعی واقعاً چیست؟
انتخاب اقدامات در شرایط عدم قطعیت با یک هدف و محدودیت صریح است—نه احساسات. قسمت جالب مدل نیست؛ بلکه این است که چگونه مدل، دادهها و محافظها با هم کار میکنند وقتی جهان از مطابقت با مجموعه آموزشی امتناع میکند.
پرسش 2: کدام الگوریتمها برای بررسی عمیق تصمیمگیری هوش مصنوعی مهم هستند؟
جستجو، بهینهسازی، استدلال احتمالی، یادگیری تقویتی، برنامهریزی و مدلهای علّی ستون فقرات هستند. سیستمهای ترکیبی که ادراک آموخته شده را با قوانین نمادین ترکیب میکنند، در واقع در تولید زنده میمانند.
پرسش 3: آیا مدلهای زبانی بزرگ برای تصمیمگیری خوب هستند؟
آنها در پیشنهاد گزینهها و داربستبندی برنامهها عالی هستند، اما به عنوان تصمیمگیرندههای کنترل نشده وحشتناک هستند. از {LLM}ها در حلقه استفاده کنید: پیشنهاد دهید، محدود کنید، اعتبار سنجی کنید—سپس هر مرحله را طوری ثبت کنید که انگار مجبورید آن را برای یک وکیل توضیح دهید.
پرسش 4: چگونه از بزرگترین اشتباهات در یک {PPT} تصمیمگیری در هوش مصنوعی اجتناب کنم؟
یادگیری را از تصمیمگیری جدا کنید، هدف را تعریف کنید و محدودیتها را مشخص کنید. حالتهای خرابی و نظارت را نشان دهید—اگر مجموعه اسلایدهای شما فقط فلش است و هیچ مصالحهای وجود ندارد، این نمایش است، نه مهندسی.
پرسش 5: Sider.AI در گردش کار تصمیمگیری هوش مصنوعی کجا قرار میگیرد؟
Sider.AI به بخش میانی نامرتب—تألیف، مقایسه و بررسی گردشکارهای استدلال—کمک میکند، بنابراین میتوانید کمک {LLM} را در جایی که کار میکند قرار دهید، نه در جایی که بازاریابی آرزو میکند. به تکرار عملی فکر کنید، نه عصای جادویی. 
