What is the Nature of the Lived Experience of Caring for Someone who has a Long Term Mental Health Condition?
3. Isolation and aloneness in caring
C´omo se ha indicado anteriormente, el sobremuestreo aleatorio presenta el inconveniente de poder conducir al sobreajuste de los algoritmos de clasificaci´on, debido a la replicaci´on de los pa- trones presentes en el conjunto de entrenamiento original. Las t´ecnicas de sobremuestreo sint´etico tratan de salvar dicho inconveniente mediante la generaci´on de instancias sint´eticas de la clase minoritaria basadas en la distribuci´on de probabilidad que ha dado lugar a estas, en lugar de en la replicaci´on de instancias concretas.
4.3.2.1. Sobremuestreo medianteSynthetic Minority Over-Sampling Technique (SMO- TE)
La aproximaci´on m´as popular al sobremuestreo sint´etico es el algoritmo SMOTE (acr´onimo de Synthetic Minority Oversampling Technique), introducida por Chawla [Chawla et al., 2002],
32 SECCI ´ON 4. EL PROBLEMA DEL DESEQUILIBRIO DE CLASES
y que ha demostrado mejorar notablemente la precisi´on de la clasificaci´on para datos altamente no balanceados en varias aplicaciones. El algorimo SMOTE se basa en la generaci´on de datos sint´eticos pr´oximos a las instancias existentes en el espacio de atributos.
Consid´erese el subconjunto de instancias de la clase minoritaria, Bmin; dada una instancia
cualquiera de dicho subconjunto, xi es posible hallar, a partir de un entero k definido a priori, los
k-vecinos m´as pr´oximos a dicha instancia, definidos como las k instancias deBmin cuya distancia
eucl´ıdea en el espacion-dimensional de atributos respecto a la instanciaxi sea m´ınima. Para crear
un elemento sint´etico, se procede seleccionando uno de dichosk-vecinos, denotado ˆxi, para despu´es
multiplicar el vector de diferencias entre los atributos de ´este y los atributos de xi por un n´umero
aleatorio i del intervalo
⇥1 20,1
⇤
y a˜nadir el resultado al vector de atributos de xi, es decir,
xnew =xi+ ix( ˆxi xi),
d´onde xi 2 Bmin es la instancia en consideraci´on, ˆxi 2 Bmin es una de las k instancias m´as
pr´oximas axi y i 2
⇥1 20,1
⇤
es un n´umero aleatorio. El resultado,xnew, es una nueva instancia que,
geom´etricamente, se sit´ua en el segmento que unexi y ˆxi. La Figura 4.2 muestra el procedimiento
descrito.
Figura 4.2: Esquema de funcionamiento del algoritmo SMOTE. Para cada instancia de la clase minori- taria se selecciona una de las k instancias m´as pr´oximas, para generar una nueva instancia en un punto aleatorio del segmento que une ambas.
La generaci´on aleatoria de instancias resuelve el problema de la replicaci´on de instancias, y como se ha indicado, ha demostrado dar lugar a buenos resultados en los estudios experimentales realizados hasta la fecha.
4.3.2.2. Sobremuestreo mediante Borderline-SMOTE (MSMOTE)
Uno de los problemas del algoritmo SMOTE es la generalizaci´on con la que se crean las nuevas instancias sint´eticas: al generar el mismo n´umero de instancias sint´eticas para cada instancia del subconjunto Bmin, sin consideraciones sobre la ubicaci´on de dichas instancias en el espacio
4.3. T ´ECNICAS DE REMUESTREO 33 tambi´en en zonas seguras e instancias clasificables como ruido. La aproximaci´on del algoritmo Borderline-SMOTE es la siguiente: en primer lugar, se identifica el conjunto de k-vecinos m´as pr´oximos a cada instancia xi 2Bmin, denotado como Bi:k N N, conBi:k N N ⇢B. A continuaci´on,
para cada xi, se identifica el n´umero de instancias pertenecientes a la clase mayoritaria, es decir,
(Bi:k N N ⇢Bmaj). Por ´ultimo, se seleccionan las instanciasxi que satisfacen
k
2 |Bi:k N N ⇢Bmaj|< k (4.1)
para generar instancias sint´eticas a partir de ´estas.
La ecuaci´on 4.1 indica que s´olo se generar´an instancias a partir de las instanciasxi que tengan
m´as vecinos de la clase mayoritaria que de la clase minoritaria. Dichas instancias representan los elementos fronterizos entre clases, y se propone etiquetarla como instancias DANGER, en contra- posici´on a las instancias interiores o SAFE. N´otese que aquellas instancias de la clase minoritaria cuyos k-vecinos m´as pr´oximos pertenezcan todos a la clase mayoritaria quedan fuera del conjunto
DANGER, al considerarse ruido, y no se generar´an instancias sint´eticas a partir de ´estas. La Fi- gura 4.3 muestra el procedimiento del algoritmo Borderline-SMOTE. C´omo puede apreciarse, la
Figura 4.3: Esquema del borderline-smote, de [Han et al, 2005].
principal diferencia entre este algoritmo y el SMOTE original reside en la selecci´on de instancias a partir de las que se generar´an instancias sint´eticas, reforzando el aprendizaje de patrones en las instancias fronterizas para aliviar el problema del solape entre clases.
4.3.2.3. Sobremuestreo mediante Adaptative Synthetic Sampling (ADASYN)
El algoritmo ADASYN, igual que el Borderline-SMOTE, recoge la idea de generar m´as elemen- tos sint´eticos en las zonas fronterizas para aliviar el problema del solape entre clases, pero propone un m´etodo sistem´atico para crear un n´umero distinto de elementos sint´eticos seg´un la posici´on de cada una de las instancias de la clase minoritaria. El algoritmo ADASYN funciona como sigue: sea Gel n´umero de instancias necesarias para balancear el conjunto de datos,
G= (|Bmaj| |Bmin|)· ,
d´onde 2 [0,1] es un par´ametro que permite controlar el nivel de balanceo entre clases. Para cada instancia xi 2Bmin, se requiere encontrar losk-vecinos m´as pr´oximos, para despu´es calcular
34 SECCI ´ON 4. EL PROBLEMA DEL DESEQUILIBRIO DE CLASES
la ratio i asociada como
=
i
k
Z
d´onde i es el n´umero de ejemplos, dentro de los k-vecinos m´as pr´oximos, pertenecientes a la
clase mayoritaria, y Z es una constante de normalizaci´on tal que i es una funci´on de distribuci´on
(P i = 1). Con esto, el n´umero de elementos sint´eticos, Ni, que deben generarse para cada
instancia xi se define como
Ni = i·G
. C´omo se ha indicado, el algoritmo ADASYN proporciona una aproximaci´on continua y adaptativa para determinar el n´umero de elementos a generar para cada instancia de la clase minoritaria, en contraposici´on al m´etodo discreto o zonal del Borderline-SMOTE. Cabe notar, sin embargo, que el ADASYN original no realiza ninguna penalizaci´on sobre las instancia de la clase minoritaria que quedan completamente rodeadas de instancias de la clase mayoritaria -y que en el Borderline- SMOTE se clasificaban como ruido.