‏نصب MiniCPM-OCR: مدل قوی برای خوندن اسناد با نصبی سه‌ساعته

MiniCPM-OCR یه مدل document understanding (یعنی مدلی که هم متن و هم ساختار صفحه رو می‌فهمه) از تیم OpenBMB هست. کارش اینه که اسناد شلوغ دنیای واقعی، مثل فرمول‌های دست‌نویس، نمودار، فاکتور، روزنامه و قرارداد مهرخورده رو به markdown و LaTeX تبدیل کنه. فرقش با ابزارهای OCR ساده اینه که با یه pip install راه نمی‌افته.

دلیل کندی نصب دو تا وابستگیه. یکی PaddlePaddle نسخه‌ی GPU که برای تشخیص layout لازمه، یعنی فهمیدن ترتیب خوندن، مرز جدول‌ها و ستون‌ها. پس حتی اگه فقط متن خام بخوای، نمی‌شه حذفش کرد. دومی VLLM (یعنی موتوری که مدل رو به‌صورت یه endpoint محلی سرو می‌کنه) که باید از سورس کامپایل بشه و همین مرحله تنهایی 1 تا 2 ساعت طول می‌کشه. به گفته‌ی مقاله، کل نصب روی یه سیستم با 48 گیگ VRAM حدود 3 تا 3.5 ساعت شد، اونم بدون دیباگ جدی.

ترتیب نصب ثابته و جابه‌جا کردنش معمولاً جلوتر خطا می‌ده: clone کردن ریپو، ساختن یه محیط پایتون جدا، نصب PaddlePaddle GPU، نصب ابزارها و کتابخونه‌های سیستمی برای کامپایل، build کردن VLLM و در آخر بالا آوردن مدل. نویسنده یادآوری می‌کنه که اگه GPU ابری اجاره کردی، این چند ساعت build هم پولش حساب می‌شه، قبل از اینکه حتی یه سند پردازش کنی.

خبر خوب اینه که موقع اجرا مدل زیر 4 گیگ VRAM مصرف می‌کنه و هر صفحه حدود 10 تا 20 ثانیه طول می‌کشه. یعنی برای استفاده‌ی روزمره اون GPU بزرگ لازم نیست. تو تست‌ها فرمول‌های دست‌نویس فیزیک با کسر و انتگرال درست به LaTeX تبدیل شدن، هرچند چند تا اشتباه در حد علامت داشت. یه قرارداد چینی با مهر هم تقریباً کامل خونده شد و فقط یه حرف داخل مهر جا افتاد.

نقطه‌ضعف‌ها هم کم نیستن. عددهای یه نمودار میله‌ای ده برابر اشتباه دراومد. تو یه صفحه‌ی روزنامه‌ی سال 1974 متن خوب خونده شد، ولی ستون‌ها قاطی شدن و ترتیب خوندن به هم ریخت. متن پایین فاکتور هم کلاً حذف شد. زبان‌های عربی و اردو هم خیلی ضعیف‌تر از انگلیسی و چینی بودن. طبق مقاله، تو جدول‌های مقایسه‌ای که با انتشار مدل منتشر شده، MiniCPM-OCR تو چهار تا از شش بنچمارک اول بوده.

نکات کلیدی:

• کل نصب تو تست حدود 3 تا 3.5 ساعت روی سیستم 48 گیگ VRAM طول کشید
• مرحله‌ی build کردن VLLM از سورس به‌تنهایی 1 تا 2 ساعته
• موقع اجرا زیر 4 گیگ VRAM مصرف می‌کنه و هر صفحه 10 تا 20 ثانیه طول می‌کشه
• نصبش خیلی سخت‌تر از PaddleOCR-VL شرکت Baidu توصیف شده
• روی OmniDocBench و OLM OCR رقابتی بوده ولی همیشه اول نبوده
• خروجی نمودارها، صفحه‌های چندستونی و متن عربی و اردو رو باید دستی چک کرد