:رابطه ۱-۱
که در آن:
JM_(i,j)=فاصله Jeffries-Matusita بین دو کلاس i و j
a_(i,j)=0.125T[M_(i)_M_(j)]*Inv[A_(i,j)]*[M_(i)_M_(j)]+ 0.5ln{det(A_(i,j)))/(det(S_(i)*det(S_(j))}^1/2 : رابطه ۱-۲
M= بردار میانگین و S = ماتریس کوواریانس هست.
نتیجه حاصل از این فرمول بین ۰ و ۲ متغــیر است که هرچه این معیار به صفر نزدیکتر باشد میزان تفکیک­پذیری کمتر و هرچه به ۲ نزدیکتر باشد تفکیک­پذیری دو طبقه از یکدیگر بیشتر هست. این نتایج می‌تواند در تعیین طبقاتی که از یکدیگر تفکیک­پذیری کافی ندارند (معمولاً کمتر از ۱) و بنابراین باید در یکدیگر ادغام شوند بکار آیند.

۱-۴-۱۴- روش‌های طبقه ­بندی نظارت­شده
طبقه ­بندی نظارت­شده تحت یکسری الگوریتم یا طبقه ­بندی کننده­ های مختلف بر اساس نمونه­های تعلیمی و با انجام محاسبات آماری متفاوت بر روی آن‌ها صورت می­گیرد که در زیر به چند مورد آن اشاره می­ شود:
۱-۴-۱۴-۱- طبقه ­بندی و رگرسیون درختی^[۳۷] (CART)
برای پیش ­بینی پیامدها^[۳۸] مورد مطالعه از مدل­ها و روش‌های مختلف می‌توان استفاده نمود. به این مدل­ها به‌طور عمومی نام مدل­های پیش ­بینی اطلاق می­ شود. براساس اینکه نوع متغیر پاسخ کمی یا مــتغیر طبقه ­بندی شده باشد، باید از روش‌های مرتبط با آن استفاده نمود. وقتی پیامد مورد استفاده کمی باشد عمدتاً از روش‌های رگرسیونی یا مدل­های عمومی رگرسیونی استفاده می­گردد. در این خانواده روش رگرسیونی یا مدل­های عمومی رگرسیونی^[۳۹] استفاده می­گردد. در این خانواده روش رگرسیونی چند متغیره و روش تحلیل تمایزی^[۴۰] قرار می­گیرند. این روش‌ها نیازمند پیش‌فرض رابطه خطی بین متغیر/ متغیرهای پیش ­بینی کننده^[۴۱] با پیامدها هست. در حالتی که متغیر پاسخ متغیر طبقه ­بندی شده باشد، می‌توان به‌طور معمول از روش‌های رگرسیون لجستیک (دوجمله­ای یا چندجمله­ای) یا لگاریتم خطی^[۴۲] استفاده نمود. در این روش‌ها نیز به پیش‌فرض رابطه خطی بین متغیرها نیاز هست. به‌عنوان مثال در رگرسیون لجستیک باید رابطه خطی بین متغیرهای مستقل و لجیت متغیر پاسخ وجود داشته باشد.
روش‌های درخت تصمیم‌گیری^[۴۳] که در برخی متون با نام قسمت­بندی مکرر^[۴۴] مشخص گردیده اولین بار در پیش ­بینی و شناسایی بازاریابی محصولات مورد استفاده قرار گرفت. طبقه ­بندی و رگرسیون درختی (CART) یکی از روش‌های طبقه ­بندی است که اولین بار توسط برایمن و همکاران^[۴۵] (۱۹۸۴) ابداع و توسعه یافت. این‌روش می‌تواند در پیش‌بینی پیامدهای کمی (درخت رگرسیونی) یا طبقه ­بندی شده (درخت طبقه‌بندی) مورد استفاده قرار گیرد. روش طبقه ­بندی و رگرسیون درختی از طریق مجموعه ­ای از شرط­های منطقی^[۴۶] (بجای رابطه خطی)، پیامد مورد مطالعه را پیش‌بینی یا طبقه ­بندی می­نماید.
ساختار مدل طبقه ­بندی درختی و اصطلاحات رایج
یک مدل طبقه ­بندی و رگرسیون درختی متشکل از چند شاخه^[۴۷] و چند گره^[۴۸] است. در شکل ۱ گره­ها و شاخه­ها مشاهده می­گردد. اولین گره که مشتمل بر کلیه نمونه­ها یا مشـــاهدات است گره والد^[۴۹] نامیده می­ شود. مابقی گره­ها گره فرزند^[۵۰] نامیده می­شوند. سپس بر اساس وضعیت یکی از متغیرهای پیش‌بینی کننده، دو شاخه شکل می­گیرد و این وضعیت ادامه می­یابد تا به گره انتهایی که معمولاً شامل گروه ­های هموژن از طبقات مختلف پیامد است، ختم گردد (کشتکار، ۱۳۸۵).

شکل ۱-۱- ساختار کلی مدل طبقه‌بندی رگرسیون درختی
ساختن مدل طبقه ­بندی درختی^[۵۱]:
برای ساخت مدل طبقه ­بندی درختی مناسب برای مجموعه ­ای از متغیرهای پیش ­بینی کننده، باید به این موارد توجه نمود:
۱ – دقت پیش‌بینی مدل: معمولاً سه اندازه برای تعیین دقت پیش ­بینی یا طبقه ­بندی مدل طبقه ­بندی درختی و رگرسیونی وجود دارد (برایمن و همکاران،۱۹۸۴).
الف: برآورد جایگزینی مجدد^[۵۲]: در برخی منابع به این اندازه هزینـه طبقه ­بندی نـادرست^[۵۳] نیز می­گوینـــد (StatSoft Inc, 2005) که عبارت است از سهم نمونه­هایی که به­درستی طبقه ­بندی نشده­اند. به‌عنوان مثال چنانچه پیامد مورد مطالعه در مدل یک متغیر دو وضعیتی باشد، وضعیت پیامد منتظره و مشاهده شده را در یک جدول دو در دو خلاصه نموده و اگر توافق بین دو وضعیت مشاهده شده و منتظره a و c و عدم توافق b و d باشد. این اندازه از رابطه زیر قابل محاسبه است:

چنانچه x بردار اندازه‌گیری­ها، d(x) قاعده طبقه ­بندی و N تعداد مشاهدات باشد، برآورد جایگزینی مجدد یا R(d) از رابطه زیر به دست می ­آید:

این نوع شیوه برآورد در پیش ­بینی پیامد مورد مطالعه اعتبار کمی دارد. با افزایش شاخه­بندی^[۵۴] مدل که منجر به افزایش تعداد گره­های پایانی می­گردد دقت پیش ­بینی افزایش یافته و هزینه طبقه ­بندی نادرست یا برآورد جایگزینی مجدد کاهش می­یابد. در شدیدترین شکل ممکن هر گره پایانی شامل فقط یک نمونه یا مشاهده بوده که در این وضعیت هزینه طبقه ­بندی نادرست به صفر تقلیل می­یابد (برایمن و همکاران،۱۹۸۴).
ب: برآورد نمونه آزمون^[۵۵]: در این شیوه از تعیین دقت پیش ­بینی، کل نمونه­ها به‌طور مستقل به دو بخش نمونه آموزشی^[۵۶] (L₁) و نمونه آزمون (L₂) تقسیم می­گردد. مدل براساس نمونه آموزشی ساخته شده و دقت آن با بهره گرفتن از نمونه آزمون تعیین و ارزیابی می­گردد. توصیه بر این است که نسبت بین نمونه آموزشی به نمونه آزمون ۲ به ۱ باشد. به عبارت دیگر بهتر است دو سوم کل نمونه­ را به نمونه آموزشی و یک سوم را به نمونه آزمون اختصاص داد. چنانچه N₂ حجم نمونه آزمون باشد، برآورد نمونه آزمون از رابطه زیر محاسبه می­ شود:

این نوع شیوه اشکال روش قبلی را ندارد. به عبارت دیگر با افزایش گره­های پایانی تا یک آستانه مشخص مقدار این اندازه کاهش یافته و سپس بیش از آن مقدار، این برآورد افزایش می­یابد. بنابراین مناسب­ترین مدل برای پیش ­بینی، تعداد گره­ها در وضعیتی است که مقدار برآورد آزمون حداقل باشد. البته استفاده از این اندازه به‌عنوان معیار دقت در نمونه­های بزرگ قابل انجام است و این‌روش برای نمونه­های کوچک مناسب نمی ­باشد.
ج: برآورد اعتباربخشی با زیرمجموعه‌های نمونه^[۵۷]: در این‌روش کل نمونه­ به‌صورت تصادفی به V زیرمجموعه مساوی طبقه ­بندی شده (L_V …… L₁) و نمونه­های (L- L_V) به‌عنوان نمونه آموزشی در ساخت مدل مورد استفاده قرار گرفته و زیرمجموعه باقیمانده به‌عنوان نمونه آزمون مورد استفاده قرار می­گیرد. برآورد نمونه آزمون در این‌روش از رابطه زیر به دست می ­آید.