قطعیت در جهانی از احتمالها
بهعنوان مهندس یادگیری ماشین، بیشتر روزهایم را با مدلهایی میگذرانم که به زبان احتمال حرف میزنند: پاسخهای محتمل، خروجیهای باورپذیر، امتیازهای اطمینان، منحنیهای خطایی که پایین میآیند اما هرگز به صفر نمیرسند. پس کمی طنزآمیز است که این روزها یکی از ساعتهای محبوب روزم با ابزاری میگذرد که هیچ احتمالی را نمیپذیرد: یک دستیار اثبات.
بیشتر شبها، پس از تمام شدن کار روز در چارسوک، Lean را باز میکنم و سعی میکنم چیزی را اثبات کنم. گاهی تمرینی از یک آموزش است. گاهی ویژگی کوچکی از کدی که واقعاً منتشر میکنم. اغلب میبازم. Lean با آرامش کامل میگوید استدلالم شکاف دارد، و من به هدفِ روی صفحه خیره میشوم تا بفهمم چرا حق با اوست.
دارم Lean یاد میگیرم. نه برای کار دانشگاهی، و نه چون فکر کنم هر استارتاپی باید کدش را بهصورت صوری اثبات کند. به خاطر شیوهای یاد میگیرم که نرمافزار امروز ساخته میشود، و چون فکر میکنم مهارتهایی که میآموزد بهزودی بسیار مهمتر از آن خواهند شد که بیشتر مردم تصور میکنند.
Lean واقعاً چیست
برای خوانندگانی که با آن روبهرو نشدهاند، توضیحی کوتاه.
Lean هم زبان برنامهنویسی است و هم دستیار اثبات. میتوانی برنامههای معمولی با آن بنویسی، اما میتوانی گزارههای ریاضی دربارهٔ آن برنامهها، یا دربارهٔ هر چیز دیگری، هم بنویسی و بعد اثبات آن گزارهها را بنویسی. نکتهٔ کلیدی این است که اثباتها را کامپیوتر بررسی میکند. نه به معنای اجرای چند آزمون، بلکه کاملاً، گام به گام، بر اساس قواعد منطق.
اگر Lean اثباتت را بپذیرد، گزاره درست است. نه احتمالاً درست. نه درست برای حالتهایی که امتحان کردی. درست، برای هر ورودیِ ممکن، برای همیشه.
همین Lean را میان ریاضیدانان محبوب کرده که از آن برای صوریسازی حوزههای بزرگ و دشوار ریاضیات استفاده کردهاند. همچنین آن را برای سازندگان سامانههای هوشواره (AI) روزبهروز جذابتر کرده، چون مدلهای هوشواره (AI) حالا میتوانند اثبات Lean بنویسند و Lean میتواند بررسیشان کند. مدل میتواند هر قدر بخواهد اشتباه کند؛ بررسیکننده هرگز اشتباه نمیکند.
همین ایدهٔ آخر قلب دلیلی است که برایم مهم است.
تولید ارزان است، اعتماد نه
عاملهای هوشواره (AI) حالا در یک بعدازظهر بیشتر از چیزی که من قبلاً در یک ماه مینوشتم کد تولید میکنند. این واقعی و شگفتانگیز است. ویژگیهایی که هفتهها طول میکشیدند حالا چند روز طول میکشند. آزمایشهایی که هرگز ارزش امتحان کردن نداشتند حالا آنقدر ارزاناند که میشود امتحانشان کرد.
اما مسئلهٔ تازهای میسازد: حجم کد سریعتر از توان ما برای فهمیدنش رشد میکند.
وقتی هر خط را خودم مینوشتم، مدلی ذهنی از کل سامانه داشتم. میدانستم بخشهای شکننده کجایند. میدانستم به کدام تابعها اعتماد دارم و به کدام نه. آن مدل ناقص بود، اما وجود داشت. وقتی عاملها بیشتر کد را مینویسند، مدل ذهنیام نازکتر میشود. بازبینی میکنم، آزمون مینویسم، با دقت میخوانم، اما دیگر نمیتوانم کل آن را مثل قبل در ذهن نگه دارم.
ابزارهای معمول کمک میکنند. آزمونها کمک میکنند. اما آزمونها فقط حالتهایی را میسنجند که به ذهنمان رسیده، و خطرناکترین باگها در حالتهایی زندگی میکنند که به ذهنمان نرسیده. اگر تابعی قرار است هر تایملاینی را که کاربر میسازد مدیریت کند، و عملاً بینهایت تایملاین ممکن وجود دارد، صد مورد آزمون صد قطره در اقیانوس است.
تایپها بیشتر کمک میکنند. یک سامانهٔ تایپ خوب میتواند دستههای کاملی از اشتباه را ناممکن کند. اگر تابعی فقط بتواند فهرستی ناتهی دریافت کند، لازم نیست حالت خالی را مدیریت کند، و هیچ آزمونی نمیتواند فراموش کند آن را بسنجد. همیشه طرفدار تایپهای قوی بودهام، که بخشی از دلیل لذت بردنم از زبانهایی مثل OCaml و Rust است.
اما تایپها در بیشتر زبانها فقط ویژگیهای ساده را بیان میکنند. میتوانند بگویند «این فهرستی از کلیپهاست». معمولاً نمیتوانند بگویند «این فهرست کلیپها هرگز همپوشانی ندارد، بر اساس زمان شروع مرتب است و مجموع مدتش برابر مدت تایملاین است».
اثبات میتواند این را بگوید. اثبات میگوید: برای هر ورودیِ ممکن، این ویژگی برقرار است. بدون نمونهگیری، بدون شانس، بدون امید به اینکه حالتهای درست به ذهنت رسیده باشد.
برای بیشتر کدها این زیادهروی است. برای هستهٔ کوچکی که همهچیز به آن تکیه دارد، کمکم تنها گزینهٔ صادقانه به نظر میرسد.
جابهجا کردن مرز اعتماد
این ایدهای است که شیوهٔ فکر کردنم دربارهٔ همهٔ اینها را عوض کرد.
در هر سامانهای مرزی هست میان چیزهایی که به آنها اعتماد میکنی و چیزهایی که میسنجی. بهطور سنتی، به برنامهنویس اعتماد میکردیم. مهندسی ارشد کد حساس را مینوشت، مهندسان دیگر بازبینیاش میکردند، و اعتماد داشتیم که ترکیب مهارت و بازبینی کافی است.
وقتی هوشواره (AI) کد را مینویسد، اعتماد به نویسنده دشوار میشود. نویسنده مدلی است که میتواند در یک کار درخشان باشد و در کار بعدی با اطمینان اشتباه کند. سابقهای به آن معنا که یک همکار انسانی دارد ندارد. اشتباههایش همیشه از جنس اشتباههای انسانی نیستند، پس بازبینهای انسانی همیشه نمیدانند کجا را نگاه کنند.
راستیآزمایی صوری اجازه میدهد مرز اعتماد را جابهجا کنی. به جای اعتماد به نویسنده، به دو چیز بسیار کوچکتر اعتماد میکنی: بیان ویژگی و بررسیکنندهٔ اثبات.
بررسیکنندهٔ اثبات کوچک است، با دقت ساخته شده و هزاران نفر از آن استفاده میکنند. تقریباً به اندازهٔ قابل اعتمادترین نرمافزارهای موجود قابل اعتماد است.
بیان ویژگی بخشی است که انسان باید درستش کند. و نکتهٔ زیبا اینجاست: بیان معمولاً کوتاه است. کدی که ادغام درست دو تاریخچهٔ ویرایش را پیاده میکند ممکن است صدها خط باشد. گزارهای که میگوید این ادغام هر ویرایشی را حفظ میکند و هیچکدام را تکرار نمیکند ممکن است چند خط باشد. آن چند خط را میتوانم با دقت زیاد بخوانم. میتوانم فکر کنم آیا واقعاً منظورم را بیان میکنند. این کاری است که انسان واقعاً میتواند خوب انجامش دهد.
پس جریان کار این میشود: من گزاره را مینویسم. عامل کد و اثبات را مینویسد. Lean اثبات را بررسی میکند. اگر رد شود، اصلاً لازم نیست به عامل اعتماد کنم. فقط باید به گزارهٔ خودم اعتماد کنم، که میتوانم کاملاً بخوانم و بفهمم.
وعدهٔ واقعی همین است: بخشی از سامانه که انسان باید به آن اعتماد کند را آنقدر کوچک کنیم که انسان واقعاً بتواند بخواندش.
جایگاهش در چارسوک
قرار نیست کل محصولمان را اثبات کنیم. این مضحک است و سرعتمان را به خزیدن تقلیل میدهد. بیشتر چیزهایی که میسازیم رابط کاربری، ابزار خلاق و یکپارچگی با سامانههای بیرونی است، جایی که اثبات صوری گران است و فایدهاش کم.
اما بخشهایی هست که اشتباه در آنها گران تمام میشود و منطقشان آنقدر دقیق است که بشود بیانش کرد.
اینکه ویرایشها چطور ادغام میشوند. وقتی یک انسان و یک عامل هوشواره (AI) هر دو پروژهای را تغییر میدهند، یا وقتی دو همکار روی یک تایملاین کار میکنند، سامانه باید تغییرهایشان را ترکیب کند. باگی اینجا میتواند بیصدا کار کسی را از بین ببرد، و از دست دادن کار خلاق دردناک است.
اینکه تایملاینها چطور سازگار میمانند. کلیپها، کیفریمها، گذارها و صدا همه باید دربارهٔ زمان توافق داشته باشند. ناسازگاری کوچکی میتواند خروجی را به شکلی ظریف اشتباه کند که هیچکس تا پس از انتشار متوجهش نشود.
اینکه برخی محاسبات هندسی و زمانی در لبهها چطور رفتار میکنند. درونیابی، منحنیهای نرمی، تبدیلهای مختصات. اینها ریاضیاند، و ریاضی دقیقاً جایی است که اثبات میدرخشد.
دقیقاً همین جاهاست که «به نظرم درست است»ِ یک عامل کافی نیست. همچنین جاهاییاند که باگ ممکن است ماهها پنهان بماند، چون حالتهای شکست نادر و عجیباند.
در آغاز راهیم. هنوز دارم یاد میگیرم و استفادهٔ ما از Lean هنوز آزمایشی است. اما حتی فرایندِ تلاش برای بیان دقیق این ویژگیها ارزشمند بوده. چند بار، نوشتن اینکه چه چیزی باید درست باشد نشان داد که دربارهٔ اینکه چه چیزی باید درست باشد کاملاً توافق نداشتیم. همین بهتنهایی تلاش را توجیه کرد.
یادگیری Lean چه حسی دارد
وانمود نمیکنم آسان است.
Lean به شکلی سختگیر است که گاهی تقریباً بیادبانه به نظر میرسد. «واضح است» را قبول نمیکند. «و به همین ترتیب برای حالت دیگر» را قبول نمیکند. گامی را که هر ریاضیدان انسانی با یک اشارهٔ دست رد میکند قبول نمیکند. هر بار مجبورت میکند دقیقاً بگویی منظورت چیست.
اولش ناامیدکننده است. یک ساعت روی چیزی وقت میگذاشتم که میتوانستم در یک دقیقه یک انسان را دربارهٔ آن قانع کنم. اما کمکم ناامیدی به چیز دیگری بدل میشود. متوجه شدم «واضح است» چقدر وقتها شکافی واقعی در فهم خودم را پنهان میکرد. Lean ایرادگیری نمیکرد؛ نشانم میداد چیزی را به آن خوبی که فکر میکردم نمیدانم.
لذتی هم هست که توصیفش سخت است. وقتی اثبات سرانجام رد میشود، وقتی هدف ناپدید میشود و Lean میگوید چیزی برای اثبات باقی نمانده، حس قطعیتی هست که تقریباً هیچ چیز دیگری در زندگی نمیدهد. نه اطمینان. قطعیت.
بازگشت به ریاضی
جنبهٔ شخصی هم دارد.
سالها بهعنوان دستیار آموزشی دانشگاه و مربی ریاضی و علوم کامپیوتر، با بیش از هزار دانشجو کار کردم. بخش زیادی از آن زمان صرف این شد که نشان دهم اثبات یک تشریفات نیست. چیزی نیست که معلمها برای پر کردن صفحه وادارت کنند بنویسی. لحظهای است که واقعاً چیزی را میدانی؛ لحظهای که گزارهای از ادعا بودن دست میکشد و به واقعیت بدل میشود.
بسیاری از دانشآموزان هرگز آن لحظه را حس نکردند. برایشان اثباتها کاری اجباری بودند، توالیای از گامها برای حفظ کردن پیش از امتحان. این همیشه برایم غمانگیز بود، چون حسِ فهم واقعی یکی از بهترین چیزهایی است که ریاضیات میتواند به آدم بدهد.
Lean آن حس را برای من برمیگرداند، با معلمی بسیار سختگیر. بهعنوان مربی همیشه میخواستم شاگردانم این انضباط را داشته باشند: فرق «فکر میکنم» و «میتوانم نشانش بدهم» را بدانند. حالا خودم هر شب تمرینش میکنم، با معلمی که هرگز خسته نمیشود و هرگز از چیزی نمیگذرد.
گاهی تصور میکنم درس دادن ریاضی با ابزاری مثل این چطور خواهد بود. دانشآموزی اثباتی را امتحان میکند و به جای یک هفته انتظار برای خودکار قرمز معلم، بازخوردی فوری و دقیق میگیرد که استدلالش دقیقاً کجا میشکند. این رابطهای متفاوت با ریاضیات است. شاید روزی بخشی از موتور توضیحدهندهای شود که دارم میسازم.
چرا فراتر از کار من مهم است
فکر میکنم راستیآزمایی صوری در آستانهٔ دوران درخشش خودش است، و دلیلش هوشواره (AI) است.
دههها، روشهای صوری محترم بودند اما بهندرت بیرون از حوزههای تخصصی مثل هوافضا، طراحی تراشه و رمزنگاری به کار میرفتند. دلیلش هزینه بود. نوشتن اثبات با دست کُند بود و تخصصی کمیاب میخواست. برای بیشتر نرمافزارها نمیارزید.
هوشواره (AI) اقتصاد این ماجرا را از دو سو تغییر میدهد. نوشتن کد را بسیار ارزانتر میکند، که حجم کدی را که باید به آن اعتماد شود بالا میبرد. و نوشتن اثبات را هم ارزانتر میکند، چون مدلها روزبهروز تواناتر میشوند در تولید اثباتهایی که بررسیکننده بتواند بسنجد. بخش گران، یعنی پیدا کردن اثبات، قابل واگذاری است. بخش ارزان، یعنی بررسی آن، قابل اعتماد میماند.
وقتی این دو منحنی همدیگر را قطع کنند، راستیآزمایی از تجمل به چیزی عملی بدل میشود. فکر میکنم برای دستههای مهمی از نرمافزار به آن نقطهٔ تقاطع نزدیکیم. و کسانی که بلدند ویژگیها را دقیق بیان کنند، وقتی این اتفاق بیفتد در جایگاه بسیار خوبی خواهند بود.
شرط من
شرطم ساده است. در جهانی که بیشتر کدها را هوشواره (AI) مینویسد، مهارت کمیاب نوشتن نیست؛ مشخص کردن و راستیآزمایی است.
تایپها، آزمونها، ارزیابیها و اثباتها همه نقطههایی روی یک خطاند. همه راههاییاند برای اینکه دقیق بگوییم چه چیزی باید درست باشد و بسنجیم که هست. آزمونها نمونهها را میسنجند. ارزیابیها کیفیت را در موارد بسیار میسنجند. تایپها ساختار را میسنجند. اثباتها همهچیز را.
Lean در دورترین نقطهٔ این خط است. بیشتر کار من همیشه نزدیکتر به سر دیگر خط خواهد بود، با آزمونها و ارزیابیها و داوری خوب. اما میخواهم پیش از آنکه لازمش داشته باشم بدانم چطور به آن سر دورتر برسم، چون روزبهروز مطمئنترم که روزی، برای چیزی مهم، لازمش خواهم داشت.
و راستش، حتی اگر آن روز هرگز نیاید، آن شبها ارزشش را داشتند. راههای کمی بهتر از این برای آموختن فروتنی هست که کامپیوتری مؤدبانه، بارها و بارها، توضیح دهد که آنچه فکر میکردی اثبات کردهای، در واقع اثبات نکردهای.