«تأیید رسمی» خودش قابل تأیید نیست
خلاصهٔ کاملتر
نویسنده تو این مقاله میگه پیشبینی سال پیشش درست از آب دراومده: هوش مصنوعی formal verification (یعنی اثبات ریاضی اینکه کد یه ویژگی مشخص رو همیشه داره) رو همهگیر کرده. مثلاً Claude برای یه پروژه یه میلیارد خط Rocq نوشته و شرکتهایی مثل Theorem و Harmonic دارن باینریها، برنامههای C و طراحی سختافزار رو تأیید میکنن. ولی سؤالش اینه که وقتی میگیم یه چیزی «تأییدشدهست»، دقیقاً چی رو ثابت کردیم؟
به گفتهٔ نویسنده، تست کردن یه چیز «قابل تأیید» تحویل میده: یه گزارش باگ که هر آدمی میتونه بخونه و چکش کنه. تست ادعای exists داره (یعنی «یه موردی هست که خراب میشه»)، ولی formal verification ادعای forall داره (یعنی «برای همهٔ ورودیها درسته»). خود اثبات رو ماشین چک میکنه، ولی تعریفها، مدل سیستم و خود prover رو کسی چک نمیکنه. اگه یکی از اینها غلط باشه، کل اثبات زیر سؤال میره.
یه راه برای کوچیک کردن این بخشهای مورد اعتماد، binary verification هست: یعنی به جای کد منبع، روی باینری کامپایلشده اثبات بنویسی. اینجوری لازم نیست semantics هر زبان رو جدا مدل کنی و به درستی کامپایلر هم تکیه نمیکنی (که کامپایلرها کلی باگ دارن). ولی نویسنده میگه هنوز semantics ماشین و پروسههای لینوکس جزو بخش مورد اعتمادن و این فقط یه تیکه از مشکل رو حل میکنه.
حرف اصلیش اینه که باید عبارت «نرمافزار formally verified» رو کنار بذاریم و بگیم «ویژگی X از سیستم Y ثابت شده». قبلاً پروژههایی مثل CompCert و seL4 داوری سنگین داشتن و تازه اونا هم باگ داشتن. حالا که هوش مصنوعی حجم کد «تأییدشده» رو شاید هزار برابر کرده، این روشهای قدیمی اعتمادسازی دیگه جواب نمیدن. یه نمونهٔ خوب: ابزار comparator داره استاندارد چک کردن اثباتهای Lean میشه.
نویسنده نرمافزار رو به ماشین تشبیه میکنه: موتور (مثل دیتابیس) تعریف ریاضی روشنی داره، ولی صندلی (مثل رابط کاربری) فرمولی نداره و «bouba» هست. برای لایههای bouba نمیشه «درستی» کامل رو ثابت کرد، فقط میشه ویژگیهای مشخصی ازشون رو ثابت کرد. با این حال نویسنده خوشبینه: فکر میکنه برای برنامههای تکنخی، هر ویژگیای که بشه به شکل property-based test نوشت، بهزودی در سطح باینری قابل اثبات میشه. برنامههای چندنخی و سیستمهای توزیعشده هنوز سالها کار دارن و تست تصادفی تو این مسیر خیلی به کار میاد.
نکات کلیدی:
- تست ادعای exists میکنه و formal verification ادعای forall، پس یه خطا تو تعریفها کل اثبات رو باطل میکنه
- تعریفها، مدل سیستم و خود prover بخشهاییان که کسی چکشون نمیکنه
- binary verification وابستگی به semantics زبان و درستی کامپایلر رو حذف میکنه، ولی semantics ماشین و لینوکس هنوز مورد اعتمادن
- CompCert و seL4 با وجود داوری سنگین، باز هم باگ داشتن
- نویسنده پیشبینی میکنه اثبات ویژگیهای برنامههای تکنخی در سطح باینری بهزودی شدنی میشه




