مسرد مصطلحات التعرف الضوئي على العربية

معدل خطأ الحروف (CER)

مسافة التحرير المُطبَّعة بين النص المتعرَّف عليه والنص المرجعي، محسوبة بالحروف: أي عدد عمليات الإدراج والحذف والاستبدال اللازمة لتحويل المخرجات إلى النص المرجعي، مقسوماً على طول النص المرجعي. والأقل أفضل.

متى يضلّل: يعامل معدل خطأ الحروف كل حرف على أنه مساوٍ في الأهمية لغيره. فالنظام الذي يخطئ في قراءة رقم في رقم حساب، والنظام الذي يخطئ في قراءة مسافة، يحصلان على النتيجة نفسها. وهو كذلك هشّ أمام المحاذاة — فإدراج زائف واحد في بداية السطر قد يتضاعف أثره إلى نتيجة أكبر بكثير مما يبرره الخطأ الملحوظ.

الفخ: معدل خطأ الحروف نسبة. فمعدل 0.125 ومعدل 12.50% هما المقدار نفسه. وكتابته على صورة 0.125% تبالغ في الدقة بمقدار مئة ضعف — وهو خطأ شائع بما يكفي ليستحق التحقق كلما ذكر مورّد رقماً صغيراً على نحو مريب.

معدل خطأ الكلمات (WER)

مسافة التحرير المُطبَّعة نفسها، محسوبة بالكلمات لا بالحروف. والأقل أفضل.

لماذا يكون عادةً أعلى من معدل خطأ الحروف: لأن حرفاً واحداً خاطئاً يجعل الكلمة كلها خاطئة. فالنظام الذي يبلغ معدل خطأ الحروف لديه 12.50% يسجّل عادةً معدل خطأ كلمات يقارب ضعف ذلك. ومقارنة معدل خطأ الحروف لنظام بمعدل خطأ الكلمات لنظام آخر لا معنى لها، ومع ذلك تحدث أكثر مما ينبغي.

لماذا يهمّ في العربية تحديداً: تتداخل حدود الكلمة العربية مع الضمائر المتصلة والسوابق واللواحق، لذا قد يُنتج اختلاف في تقطيع الكلمات أخطاءً على مستوى الكلمة رغم أن الحروف صحيحة تماماً.

لماذا قد تتجاوز معدلات الخطأ 100%

لأن مسافة التحرير غير محدودة بطول النص المرجعي. فإذا أخرج النظام محتوى يفوق ما كان في الصفحة، فقد يتجاوز عدد عمليات الحذف اللازمة لاستعادة النص المرجعي طولَ النص المرجعي نفسه.

في قياسات KITAB-Bench، يسجّل أحد الأنظمة الأخرى معدل خطأ حروف قدره 495.00% في مهمة تحويل الصور إلى نص كاملة، و610.75% على الخط اليدوي. وهذه قياسات حقيقية لا أخطاء في البيانات. فالنظام في هذا النطاق لا يخطئ في قراءة الصفحة — بل يولّد نصاً لم يكن موجوداً فيها قط.

القراءة العملية: معدل الخطأ الذي يتجاوز 100% تقريباً علامة على الهلوسة لا على ضعف التعرف، ولنمطَي الإخفاق هذين عواقب مختلفة جداً على أرشيف الوثائق.

chrF

مقياس F لمتتاليات الحروف (n-gram) بين المخرجات والنص المرجعي، على مقياس من 0 إلى 100. والأعلى أفضل.

لماذا وُجد: لأنه لا يتطلب محاذاة شاملة واحدة، فيكون أقل هشاشة من مسافة التحرير حين يكون المحتوى قد أُعيد ترتيبه لا أُخطئ في قراءته. وهو المقياس المساعد المفيد حين يتعارض معدل خطأ الحروف ومعدل خطأ الكلمات.

BLEU وMETEOR

مقياسان من مقاييس الترجمة الآلية يُعلَنان أحياناً إلى جانب نتائج التعرف الضوئي. والأعلى أفضل.

متى يضلّلان بشدة: يتطلب BLEU تطابقاً في متتاليات من أربع كلمات. وفي مجموعة من الكلمات المكتوبة يدوياً المنفردة يكون هذا التطابق قليلاً أو معدوماً، فقد يعطي BLEU القيمة 0.00 لمخرجات صحيحة في معظمها. وفي نتائجنا نحن، تعطي مجموعة ADAB قيمة BLEU قدرها 0.00 إلى جانب chrF قدره 75.10 ومعدل خطأ حروف قدره 12.00% — وهذا قصور في BLEU على المقاطع القصيرة، لا إخفاق في التعرف. تعامل مع BLEU في التعرف الضوئي بحذر.

TEDS — التشابه القائم على مسافة تحرير الشجرة

يقارن الجدول المستخرَج، ممثلاً على هيئة شجرة، بالشجرة المرجعية. والأعلى أفضل، من 0 إلى 100.

لماذا هو المقياس المناسب للجداول: لأنه يقيس البنية إلى جانب المحتوى. فالنظام الذي يقرأ كل حرف قراءة صحيحة لكنه يدمج خليتين، أو يفقد امتداد صف، يُحتسب عليه ذلك — وهو أمر في محلّه، لأن الجدول الذي تقع حروفه الصحيحة في خلايا خاطئة أسوأ من عديم الفائدة لمن يستعلم عنه.

MARS

مزيج متساوي الأوزان من chrF (دقة النص) وTEDS (دقة الجداول)، يُستخدم في التحويل الكامل للمستندات. والأعلى أفضل.

ما الذي ينبغي الانتباه إليه: لأن المكوّنين متساويان في الوزن، قد يتصدّر نظام على MARS بينما يتأخر في النص. وهذا بالضبط ما يحدث مع نظامنا في مهمة تحويل PDF إلى Markdown على KITAB-Bench — إذ يبلغ chrF لدينا 79.81 مقابل 82.51 لدى LlamaParse، بينما يبلغ TEDS لدينا 80.12 مقابل 70.36 لديه. اقرأ المكوّنات، لا المؤشر المركّب وحده.

تحليل بنية المستندات

تحديد المناطق البنيوية في الصفحة وتعيين مواضعها — الترويسات والتذييلات وعناوين الأقسام ومتن النص والأشكال والجداول والتعليقات التوضيحية والحواشي — وإسناد نوع لكلٍّ منها.

لماذا يهمّ أكثر مما يبدو: لأنه المرحلة التي تحوّل النسخ المسطح إلى وثيقة يمكن التنقل فيها. وفي الأنظمة المعزَّزة بالاسترجاع، هو ما يتيح التقطيع المتماسك دلالياً. ومن دونه يقطّع المقسِّم النص بحسب عدد الحروف، فيفصل العنوان عن القسم الذي يقدّمه في أحيان كثيرة.

mAP والدقة والاسترجاع في كشف بنية الصفحة

يَعُدّ mAP@0.5 المنطقة المتوقَّعة صحيحة حين تتداخل مع المنطقة المرجعية بنسبة تقاطع إلى اتحاد لا تقل عن 50%. والدقة هي نسبة ما كان صحيحاً من المناطق المكتشفة. والاسترجاع هو نسبة ما عُثر عليه من المناطق الحقيقية. أما F1 فهو متوسطهما التوافقي. وفي جميعها، الأعلى أفضل.

لماذا يهمّ هذا التمييز: قد يكون الكاشف عالي الدقة ضعيف الاكتمال، أو العكس، ولنمطَي الإخفاق عواقب متعاكسة. فالدقة العالية مع استرجاع منخفض تعني أن ما تحصل عليه موثوق لكنه ناقص. والدقة المنخفضة مع استرجاع عالٍ تعني أنك تحصل على كل شيء ومعه ضجيج عليك تصفيته. ونتيجتنا نحن في كشف بنية الصفحة من النوع الأول — دقة 0.916، واسترجاع 0.711.

المتوسط الكلّي مقابل المتوسط الجزئي

المتوسط الكلّي هو المتوسط غير المرجَّح عبر المجموعات الفرعية: فمجموعة من 10 عيّنات تُحتسب بقدر ما تُحتسب مجموعة من 800 عيّنة. أما المتوسط الجزئي، أو المرجَّح بعدد العيّنات، فيرجّح بحسب حجم المجموعة الفرعية، ويقدّر الأداء المتوقع على صفحة مختارة عشوائياً.

قد يختلف الاثنان اختلافاً كبيراً. ففي مسار تحويل الصور إلى نص على KITAB-Bench، تبلغ أرقامنا نحن 12.50% بالمتوسط الكلّي و14.08% بالمتوسط المرجَّح بعدد العيّنات. وكلاهما صحيح؛ فهما يجيبان عن سؤالين مختلفين. يسأل المتوسط الكلّي: «كيف يؤدي هذا النظام عبر تنوّع أنواع المادة؟»، ويسأل المتوسط الجزئي: «ما الذي ينبغي أن أتوقعه على صفحة مختارة عشوائياً؟».

ما الذي يجب التحقق منه في أي معيار مرجعي: أي الطريقتين اعتُمدت، وهل هي الطريقة نفسها المعتمدة للأنظمة الأخرى. فمقارنة رقم بالمتوسط الكلّي برقم بالمتوسط الجزئي ليست مقارنة.

ترتيب القراءة

التسلسل الذي ينبغي أن تُقرأ به مناطق الصفحة. وهو مشكلة مستقلة عن التعرف: فقد ينسخ النظام كل حرف نسخاً صحيحاً، ثم يعيدها بترتيب يجعل الوثيقة غير صالحة للاستخدام.

تُكتب العربية من اليمين إلى اليسار، ويُنتج المحتوى الممزوج بين العربية واللاتينية — وهو شائع في الوثائق التقنية والقانونية والمالية — تسلسلات ثنائية الاتجاه تُعدّ مصدراً متكرراً للخطأ. وتزيد التخطيطات متعددة الأعمدة الأمر تعقيداً.

الروابط والخط المتصل

تتغير أشكال الحروف العربية بحسب موضعها، وتتصل بما يجاورها. فللحرف صور في أول الكلمة ووسطها وآخرها ومنفردة، وتشكّل بعض الأزواج روابط إلزامية.

الأثر على التعرف الضوئي: تقطيع الحروف ليس خطوة تمهيدية محسومة كما هو الحال في الطباعة اللاتينية. والأنظمة التي تقطّع قبل أن تتعرف تميل إلى الإخفاق مع الخط المتصل، وهذا جزء من سبب التراجع الحاد لأداء المحركات التقليدية على الخط العربي اليدوي.

التشكيل

علامات اختيارية للحركات والنطق تُكتب فوق الحروف الأساسية وتحتها. وتغيب عن معظم النصوص العربية الحديثة، بينما تحضر في النصوص القرآنية والشعرية والتعليمية وبعض المواد التاريخية.

لماذا يعقّد القياس: احتساب علامات التشكيل حروفاً أو عدمه يغيّر معدل خطأ الحروف على المادة المشكولة تغيّراً جوهرياً. والمعيار المرجعي الذي يُسقطها عند التطبيع لا يمكن مقارنته بمعيار لا يُسقطها.

الهلوسة في التعرف الضوئي

نص ينتجه نظام التعرف ولم يكن موجوداً في الصفحة قط.

لماذا هي أسوأ من الحرف المقروء خطأً: لأن المخرجات تكون سلسة ومعقولة لا خاطئة بشكل واضح، فتجتاز المراجعة. فالكلمة المشوّهة يظهر تشوّهها، أما الجملة المختلَقة بعربية سليمة فلا. وهي نمط إخفاق مميِّز لنماذج الرؤية واللغة التوليدية حين تُستخدم في التعرف الضوئي، وهي السبب الرئيسي في أن معدل الخطأ الذي يتجاوز 100% ينبغي أن يغيّر طريقة قراءتك لجدول الترتيب، لا موقع النظام فيه فحسب.