Para modelar la dinámica individual de la red hemos utilizado el modelo de red binaria con la capacidad de reconocer y emitir firmas propuesto en [7,8], ver Fig. 1.

El modelo considera que una firma es una secuencia de unos y ceros que puede ser reconocida por cada una de las neuronas individuales de la red con una cierta probabilidad. Cada neurona tiene 8 canales sinápticos de entrada en función de las conexiones que se establecen con otras unidades, según el patrón de conectividad utilizado en la simulación (como se indica más abajo). Cada neurona emite una firma a sus vecinas con probabilidad p_e. Esta firma define la actividad espontánea de la red. En ausencia de un estímulo la red evoluciona a un estado estacionario, relacionada con la emisión de la actividad espontánea. Cada unidad puede responder al reconocimiento de un conjunto de firmas específicas recibidas a través de sus canales de entrada. El reconocimiento de una firma en cada intervalo de tiempo se chequea usando un contexto de información local [9], que es una memoria transitoria que mantiene un registro de las entradas recibidas en los instantes de tiempo anteriores. Cuando una firma es reconocida, la neurona emite la misma firma a través de sus canales de salida con probabilidad p_r (p_r >>> p_e). Si no se reconoce ninguna firma, se emite la firma espontánea con una p_e. Además de los canales de conexión (canales sinápticos) que tiene cada neurona, está tiene un canal adicional para inyectar estímulos externos (firmas) en la red. Si una neurona reconoce una firma entonces la emite a sus vecinas con una probabilidad p_r, lo que puede producir cambios en la dinámica espontánea de la red debido a la propagación del estímulo externo.

La dinámica colectiva de la red se basa en calcular su evolución temporal según las reglas de reconocimiento y emisión de firmas descritas anteriormente. De esta forma, p_e controla el nivel de actividad espontánea y p_r la intensidad de la actividad asociada con el estímulo externo. Mientras mayor es la probabilidad de p_e y de p_r mayor será la actividad de la firma espontánea y de la estimulación respectivamente. Después de emitir una firma la neurona tiene un período de refracción donde ni reconoce ni emite ninguna firma. En [12] se ha estudiado cómo afecta a la dinámica de la red la duración del periodo de refracción.

Como se indicaba anteriormente, cada neurona está conectada a otras ocho neuronas de la red. Dado que nuestro objetivo es comparar la dinámica de redes heterogéneas frente a la observada en redes homogéneas, en las simulaciones que vamos a discutir en este trabajo hemos construido redes análogas a las discutidas en [8]. En todos los casos hemos simulado redes de 2500 neuronas que pueden estar conectadas con tres posibles topologías de red: regular, small-world o aleatoria. Para construir las redes small-world partimos de una red bidimensional de tamaño 50x50 con condiciones periódicas de contorno y rompemos conexiones con cierta probabilidad p (p es el grado de regularidad de la red) para establecer una nueva conexión con otra neurona de manera aleatoria [10,11]. De esta forma, las redes regulares (p=0) y aleatorias (p=1) son las condiciones extremas para las topologías small-world. Con el fin de comparar nuestros resultados con los obtenidos en redes homogéneas [8], además de las topologías regulares y aleatorias, en este trabajo vamos a simular redes con dos posibles topologías small-world (p=0.10 y p=0.25).

La actividad espontánea es la dinámica intrínseca de la red incluso en ausencia de estímulos externos. En los trabajos previos, concluimos que el nivel de la actividad espontánea en la red depende principalmente de la probabilidad p_e. Para este tipo de simulaciones si variamos la probabilidad de reconocimiento varía el número promedio de neuronas que emiten la firma espontánea por unidad de tiempo, ver [8]. Pero es equivalente en cada una de las topologías de red, ver [8]. La única diferencia es el nivel constante alcanzado por medio de la actividad espontánea con las diferentes probabilidades de reconocimiento.

Como en los estudios previos los resultados más interesantes son las simulaciones relacionadas con la codificación de estímulos externos. Para la codificación de estímulos hemos realizado dos tipos de simulaciones, una con poblaciones homogéneas al igual que en [7,8] y otra con poblaciones heterogéneas. Las simulaciones con poblaciones homogéneas se las realizó fijando los parámetros que afectan la red: p_e = 0.05, p_r = 0.80, N_ns = 10, R_p = 10, T_f = 5 bits, Numero de firmas (N_f) = 1 o 2. En el caso de las simulaciones con poblaciones heterogéneas se fijó los parámetros p_e = 0.05, R_p = 10, T_f = 5 bits y N_f = 1 o 2. En donde la firma A tiene una probabilidad p_r de 0.85 y la firma B con p_r igual a 0.80. En ambos casos cuando se estimula la red con estas p_r obtenemos una red con memoria a largo plazo o permanente. En las simulaciones que se presentan aquí, inicialmente dejamos evolucionar a la red libremente hasta el intervalo de tiempo 5000, es decir ningún estímulo se introduce en la red. En el intervalo de tiempo 5000, una firma externa se introduce dentro de n neuronas escogidas aleatoriamente durante el intervalo 10000. Entonces, la red evoluciona libremente sin ninguna estimulación de nuevo, evolucionando a un nivel constante de neuronas que reconocen la una o la otra firma, mismas que se mantiene en el tiempo, pero con diferente nivel durante y después de la estimulación. La finalidad de este tipo de simulaciones es obtener redes equivalentes (ver sección 3.5 de [8]) después de finalizado la estimulación, es decir, cuando p_r = 0.85, queremos obtener una red equivalente cuando p_r = 0.80, partiendo para ambos casos con N_ns = 10, Para ello calculamos N_ns de acuerdo a la topología de red, hasta que ambas redes puedan ser comparadas bajo las mismas condiciones.

Desde la perspectiva de codificación de información, una característica interesante a ser evaluada es la habilidad de la red para procesar y codificar múltiples estímulos, simultáneamente. Tomando en cuenta los resultados descritos en la sección anterior, la competencia entre la actividad espacio-temporal generada por la red como respuesta a diferentes estímulos y la influencia de poblaciones homogéneas y/o heterogéneas en esta competición, nosotros hemos realizado simulaciones donde diferentes estímulos se introducen en la red.

3.3.1. Simulación en serie

En simulaciones con poblaciones homogéneas, alternamos episodios de simulación de dos diferentes firmas (A y B), cuando son inyectadas en el mismo grupo de células. Inicialmente, la red evoluciona libremente. En el intervalo de tiempo 5000, la estimulación inicia. En cada episodio de simulación, una firma es inyectada en la red para 10000 unidades de tiempo. Entonces, hay un intervalo de inter-estimulaciones de 5000 intervalos de tiempo donde ningún estímulo se introduce dentro de la red. Esta secuencia se repite ocho veces alternando dos diferentes firmas neuronales. Finalmente, en el intervalo de tiempo 120000 no se introduce ningún estímulo más.

La Fig. 2. muestra gráficos que permiten comparar la evolución del número de neuronas que emiten la firma espontánea (trazos azules), la firma A (trazos rojos) y la firma B (trazos verdes) en redes con memoria a largo plazo con diferentes topologías de red. Observe los diferentes intervalos durante los cuales las dos firmas externas compiten. La Fig. 2. indica además que la competencia entre dos firmas externas es una competencia con ganador (winner-take-all) donde la firma activa prevalece sobre las otras. No obstante, en redes regulares de neuronas con un período refractario pequeño, existen competencias transitorias sin ganador (winnerless) [12-14], que pueden emerger en la red, las firmas A y B pueden coexistir en la red (ver paneles A, B en la Fig. 2). Durante estos episodios transitorios, el estímulo activo no gana la competencia como en una dinámica con ganador (winner-take-all) y, por lo tanto, los patrones correspondientes que codifican este estímulo no reemplazan completamente los patrones relacionados a la firma recibida anteriormente. Este es un interesante fenómeno desde el punto de vista de codificación y procesamiento de información porque la competencia sin ganador (winnerless) permite a la red codificar dos firmas diferentes a través de una de ellas que no está sostenida por la estimulación.

En redes más regulares (paneles A y B de la Fig. 2), los patrones espacio-temporales en evolución tienen una estructura espacial bien definida y coherente. La clusterización y la coherencia de estos patrones transitorios producen regiones de frontera bien delimitados entre los estímulos A y B, que potencia la competencia. Esto mejora la capacidad de la red para sostener múltiples estímulos simultáneamente. De la misma manera, la competencia con ganador observada en las redes más aleatorias en la Fig. 2 (paneles C y D de la Fig. 2) se observa una propagación no estructurada de estímulos que rápidamente reemplazan los estímulos inducidos por el estímulo anterior dentro de la red.

Figura 2 Fuente: Carrillo-Medina JL and Latorre R., 2015

En simulaciones con poblaciones heterogéneas, alternamos episodios de simulación de dos diferentes firmas (A y B), cuando son inyectadas en diferentes grupos de células y con diferentes p_r, de acuerdo a los parámetros indicados en la sección 3.2.

Al igual que en las redes con poblaciones homogéneas, inicialmente, la red evoluciona libremente. En el intervalo de tiempo 5000, la estimulación inicia. En cada episodio de simulación, una firma es inyectada en la red para 10000 unidades de tiempo. Entonces, hay un intervalo de inter-estimulaciones de 5000 intervalos de tiempo donde ningún estímulo se introduce dentro de la red. Esta secuencia se repite ocho veces alternando dos diferentes firmas neuronales. Finalmente, en el intervalo de tiempo 120000 no se introduce ningún estímulo más. Estas simulaciones se las realizó por separado, una simulación para la firma A y otra simulación para la firma B. Para poder comparar los dos tipos de simulaciones se hizo necesario obtener redes equivalentes (con poblaciones heterogéneas) en las diferentes topologías de red, determinando que es inevitable aumentar el N_ns, en este caso específico cuando la p_r de una de firma A es mayor que la firma B. Obteniéndose los valores que se indican en la Tabla 1. El número promedio de neuronas que reconocen y emiten una firma (N_nref), durante la estimulación se incrementa debido al N_ns. Después de la estimulación el N_nref decrece. Esto se debe a que el número de neuronas seleccionadas en las cuales se inyecta el estímulo, deja de recibirlo. La competencia entre firmas se la realiza una vez terminado el episodio de estimulación de la red con una firma dada. De las simulaciones podemos indicar que cuando más regular es la red mayor es el número de neuronas seleccionadas para obtener una red equivalente.

Tabla 1

Fuente: Elaboración propia

Figura 3 Fuente: Elaboración propia

La Fig. 3. muestra un gráfico representativo de las cuatro redes el cual permite comparar la evolución del número de neuronas que emiten la firma A (trazos rojos) y la firma B (trazos verdes) en redes con memoria a largo plazo con diferentes topologías de red, p_r (Firma A, p_r = 0.85; Firma B, pr = 0.80) y N_ns (Firma A, N_ns = 86; Firma B, N_ns = 10). En este tipo de simulaciones hemos alternado episodios de simulación de dos diferentes firmas (A y B) con los valores obtenidos en la Tabla 1. Nosotros podemos observar en los diferentes intervalos durante los cuales las dos firmas externas se estimulan que siempre existe una competencia con ganador (winner-take-all) donde la firma A prevalece sobre la firma B, debido a su mayor p_r, es decir siempre gana la firma que tiene mayor probabilidad, aunque se aumente el N_ns de la firma que tiene menor probabilidad, no obstante, estén en las mismas condiciones para competir, ver Tabla 1. Esto sucede independientemente de la topología de red. Cabe notar que en estas simulaciones no existe una competencia global en la red, existe una competencia local, misma que esta sostenida solo cuando se estimula la red con la firma B.

En base a las simulaciones anteriores hemos aumentado el N_ns para la firma B (cuando p_r de la firma B es menor que la firma A), lo cual permite iniciar una competencia local en una competencia global dentro de la red. En función del N_ns de la firma A (cuando N_ns = 10) encontrándose valores de N_ns para la Firma B, como se indica en la Tabla 2. De acuerdo a esta tabla podemos indicar que mientras más conexiones regulares tengan una red, mayor debe ser el número de neuronas seleccionadas en las cuales se inyecte el estímulo.

La Fig. 4. muestra el comportamiento de las cuatro redes de acuerdo a los valores de la Tabla 2, lo que permite obtener competencias globales durante los episodios transitorios. El estímulo activo de la firma B no gana la competencia como en una dinámica con ganador (winner-take-all) y, por lo tanto, los patrones correspondientes que codifican este estímulo no reemplazan completamente los patrones relacionados a la firma recibida anteriormente. Este es un interesante fenómeno desde el punto de vista de codificación y procesamiento de información porque la competencia sin ganador (winnerless) permite a la red codificar dos firmas diferentes a través de una de ellas que no está sostenida por la estimulación. En este tipo de simulaciones siempre existe una competencia con ganador y es el estímulo que tiene la mayor pr, independiente de la topología de red. Donde se representa la firma A (trazos rojos), la firma B (trazos verdes) y la actividad espontánea (trazos azules).

Tabla 2

Fuente: Elaboración propia

Figura 4 Fuente: Elaboración propia

Tabla 3

Fuente: Elaboración propia

Con las simulaciones realizadas no se pudo obtener redes equivalentes para ello equiparamos el número de neuronas que reconocen y/o emiten una de las firmas para que en estas condiciones observar la competencia entre las dos firmas y determinar si existe competencia con ganador o sin ganador. Para lo cual hemos variado el Nns en cada una de las topologías de red, ver Tabla 3.

La Fig. 5 muestra un gráfico representativo de las cuatro redes el cual permite comparar la evolución del número de neuronas que emiten la firma A (trazos rojos) y la firma B (trazos verdes) en redes con memoria a largo plazo con diferentes topologías de red, pr (Firma A, pr = 0.85; Firma B, pr = 0.80) y Nns (Firma A, Nns = 10; Firma B, Nns = 550) de acuerdo a la Tabla 3.

Figura 5 Fuente: Elaboración propia

En este tipo de simulaciones hemos alternado episodios de simulación de dos diferentes firmas (A y B). Nosotros podemos observar, en los diferentes intervalos durante los cuales las dos firmas externas se estimulan, que siempre existe una competencia con ganador (winner-take-all) donde la firma activa prevalece sobre la firma previa en forma instantánea, independientemente de que exista en los episodios transitorios una disminución del número de neuronas que reconocen o emiten la firma que tiene menor p_r. En estas redes siempre gana la firma que se está inyectando, existiendo una competencia global en la red. Esto sucede independientemente de la topología de red.

En todas las topologías de red se puede observar que, en los episodios transitorios de una firma a otra, existe una disminución del número promedio de neuronas que reconocen o emiten una firma dada, esto se produce debido a que se deja de estimular grandes grupos de neuronas.

En todas las redes, independientemente de la topología de red, en los intervalos de estimulación podemos indicar que siempre existe una competencia con ganador de forma inmediata y esta es la firma con la cual se estimula la red.