Agentes Inteligentes

La ética de la IA

2008-04-05T12:25:00.001-05:00

Hace poco recibí un correo relacionado a mis escritos en este blog. Lamento que este tan descuidado... Es en realidad una falta grave que tratare de corregir en los próximos días, dándome como objetivo publicar un post al menos cada quince días. Hoy me gustaría hablar un poco sobre la inquietud de mi correspondente.

Una de las grandes preguntas, que como desarrollador de sistemas inteligentes, cada día me hago es ¿cual es mi responsabilidad en la creación de una ética para los sistemas artificialmente cognicientes?

Esta pregunta tiene una gran importancia. Grandes mentes humanas se hicieron la misma pregunta (la de la ética en su búsqueda de conocimiento) al descubrir que sus resultados podrían ser usados para la destrucción de aquello que llamamos raza humana. Einstein y los demás que descubrieron la posibilidad de la destrucción total cuando percibieron que sus teorías podrían llevar a la construcción de una bomba atómica, intentaron por muchos medios evitar que cayese en malas manos... Lastimosamente los políticos de cualquier sector pueden considerarse malas manos. Algunos dicen que Einstein no se pudo perdonar el que la bomba existiese gracias a su ayuda, y que esta destruyo dos ciudades Japonesas e incentivo una guerra fría de 50 años.

Supongo que los intelectuales y académicos se consideran lo suficientemente "inteligentes" para concebir una serie de reglas que hagan posible que estas entidades que creamos no representen un peligro. Probablemente de esta preocupación nacieron las tres leyes de Asimov sobre la robótica. Sin embargo, debemos admitir que como todo ser humano, los intelectuales y académicos cometemos errores. Gran parte del descubrimiento científico esta construido sobre los fracasos de muchos y los éxitos de pocos. En última instancia, la verdadera pregunta es ¿cual es un modelo valido y quien decide su validez?

Estamos ad portas de construir una máquina con verdaderos sentidos cognitivos, pero debemos ser muy cuidadosos en que modelo de comportamiento le entregaremos. Es en efecto la frontera de la catástrofe si los modelos extraídos son equivocados o aún peor, si ignoramos el factor humano de los modelos, creando inteligencias meramente racionales... Frías y sin corazón.

Todas nuestras dudas, preguntas y sobre todo temores son importantes, pero esto no debe limitar nuestra curiosidad. Y no olvidar que ha veces las mejores intenciones no siempre tienen los mejores resultados...

De como evolucionan los enjambres (II)

2008-02-11T19:37:00.001-05:00

Continuando con la serie de posts sobre la evolución de enjambres, en la anterior entrada describimos el problema de obtener un grupo de parámetros de la estrategia generales para todos los problemas de optimización y la aceptación de la idea de realizar control de parámetros en línea. Se sugirió la necesidad de establecer una función que relacione el desempeño general del algoritmo y la función de costo y la necesidad de un método para auto-adaptar los parámetros del algoritmo.

Utilizaremos el método establecido por las Estrategias Evolutivas para obtener un grupo de parámetros adecuados. Para esto consideremos al sistema de enjambre auto-adaptativo como un conjunto de m poblaciones de k agentes. Cada población posee un grupo de parámetros de estrategia que son mutados por medio de una función aleatoria de distribución normal para generar l nuevas poblaciones; cada una de las cuales busca una solución al problema de optimización principal, o sea minimizar o maximizar la función de costo J. Para medir el desempeño general de la población definimos el valor de la función G para la l-ésima en el instante i-ésimo como el promedio del valor de costo de los k agentes J(l,k,i,q), donde q corresponde a la posición en el espacio de búsqueda del agente k-ésimo.

A continuación, utilizamos la regla de 1/5 para modificar los valores de las desviaciones estándar de las funciones aleatorias. Esta regla determinística indica que si el desempeño de los nuevos individuos (en este caso el desempeño del enjambre completo, medido por G) es mejor que el de las poblaciones anteriores, entonces el sistema se ha desplazado a un mejor punto en el espacio de parámetros y podemos decrementar en un factor 0.82 las desviaciones. De lo contrario, incrementamos las desviaciones por un factor de 1.22.

Con estas simples reglas, podemos generar diferentes arquitecturas, dependiendo de los valores de k, m, l, r y el uso de selección elitista o no elitista. Para simplificar la descripción de los enjambres auto-adaptativos (Self-Adaptive Swarms - SAS), propongo la notación (k→m/r,+l)-SAS basada en la notación de Estrategias Evolutivas. Con esta notación se puede describir cualquier algoritmo SAS, incluyendo el EPSO, al cual llamare (1→m/r,+l)-SAS.

En el próximo post, presentare el algoritmo genérico para un enjambre auto-adaptativo (k→1/r,l)-SAS, que corresponde a un enjambre de k agentes de enjambre, una población padre, l poblaciones hijas, con elitismo y sin recombinación, la cual es la arquitectura mas simple posible para poblaciones multi-miembro.

¿Inteligencia Sensual?

2008-01-30T17:26:00.001-05:00

En varias ocasiones he escuchado de las "otras" inteligencias del ser humano. Desde la emocional, hasta la financiera, pasando por la lógica y abstracta, cada ser humano tiene diferentes formas de manejar la información que nos proveen nuestros sentidos y sentimientos. Una actividad del ser humano que provee una gran cantidad de información sensorial es el sexo.

Más allá de ser el medio de reproducción, el sexo es una forma de expresar sentimientos o de obtener simple satisfacción física, y representa una parte fundamental del comportamiento humano.

Hasta ahora, esta cantidad de información no había sido valorada por ningún sistema, hasta que hace poco vi este artículo en WIRED, donde se "evalúa" el primer aparato que hace uso de la información sensorial generada por el sexo para transmitirle placer a su usuaria, que solo debe aprobar el desempeño de su juguete para enseñarle lo que la hace feliz.

El concepto, para la autora, es bastante interesante y sugiere la incursión de los sistemas inteligentes en áreas muy humanas. En el fondo, la pregunta que me surge es si este artilugio, aparentemente no relacionado, es un paso hacia enseñarle a las máquinas que es correcto o adecuado en términos humanos.

Imagen de: http://www.wired.com/images/article/full/2008/01/sasi_sexdrive_250px.jpg

Más juegos de estrategia abstracta: Damas

2008-01-19T10:50:00.001-05:00

Últimamente los juegos de estrategia abstracta me resultan bastante atractivos. De hecho, voy a empezar a aprender Xiàng Qí, pero hasta ahora el programa de computador más "estúpido" me gana en pocas jugadas.

¿Qué sucedería si se inventase un programa que fuera imposible de derrotar en un juego de estrategia abstracta? Pues el Dr. Jonathan Schaeffer y sus colaboradores en la Universidad de Alberta, luego de 18 años estudiando el juego de Damas, han construido el primer programa de computador, llamado chinook, imposible de vencer. Lo mejor que un ser humano podrá hacer es empatar el juego. El programa se elaboro inicialmente usando una serie de heurísticas que almacenaban el conocimiento para reconocer jugadas buenas de malas. En la actualidad, las heurísticas han sido abandonadas, ya que el programa ha finalizado su aprendizaje y ahora simplemente conoce la manera de ejecutar un juego perfecto.

Sin conocer exactamente el como fue programado este sistema, surgen dos preguntas. La primera, ¿Éste sistema juega utilizando árboles de decisión u otra estrategia? La segunda, ¿Que implicaciones tiene una máquina imposible de derrotar?

Apartándonos del aspecto meramente lúdico, imaginemos una computadora imposible de derrotar en un ámbito estratégico, como lo sería las confrontaciones bélicas. Si bien, a diferencia de los juegos de estrategia abstracta que son de información perfecta (los jugadores conocen por completo la situación del tablero) y no aleatorios, la guerra posee gran cantidad de desconocidos. Si una máquina es capaz de evaluar de manera perfecta las posiciones existentes, se convierte en un sistema peligroso, en particular si este de alguna manera se torna consciente de si mismo (tema explotado bastante en la ciencia ficción). Tal vez estamos dando los primeros pasos hacia este tipo de máquina. Pasos, que probablemente no sean pequeños.

Imagen de: http://www.cbc.ca/thehour/blog/2007/07/the_checkers_solution.html

Descifrando lenguajes no humanos...

2008-01-19T09:03:00.001-05:00

Por muchos años nos hemos preguntados si los animales tienen capacidad de producir lenguaje. Si fuese posible entender lo que un perro nos quiere decir, muchas labores cotidianas de aquellos amantes de mascotas serian mucho más sencillas, como las relacionadas con los desechos.

Pues amantes de los animales, esta noticia les parecerá interesante. Un grupo de la Universidad de Hungría considera este problema interesante y ha desarrollado un programa capaz de identificar y clasificar ladridos de acuerdo a diferentes situaciones e inclusive identificar el individuo que los produce.

Según el informe de prensa, el sistema tiene hasta ahora un porcentaje de acierto del 43% para la identificación del contexto del ladrido, con mayor éxito en ladridos producidos en contextos referentes a "extraño" y "pelea", y un menor acierto en aquellos referentes a "jugar". Para el reconocimiento de el individuo, se obtuvo un 52% de acierto.

Estos dos experimentos permiten sacar las siguientes conclusiones: Primero, que en efecto los ladridos poseen diferencias acústicas según el estado motivacional del individuo. Segundo, que existen diferencias, aunque no perceptibles al oído humano entre los ladridos de cada individuo.

Me pregunto como funciona este sistema. Lo más probable es que sea un sistema bastante estandarizado de reconocimiento de voz. La dificultad resulta en obtener el grupo de parámetros que describen correctamente las cualidades acústicas del ladrido. Supongo que la primera opción viable es el uso del cepstrum (al igual que en humanos) junto con un clasificador (HMM, RNA). También identificar el rango de frecuencias donde la información es más importante.

Tal vez se inventen un aparato que procese el ladrido y dentro de poco el perro del vecino y yo podríamos entablar una conversación acerca de la posibilidad de disminuir el tono de su voz...

Imagen de: https://www.eukanuba.com/es_LA/data_root/eukanuba/home/images/u_eu_hp_dog.jpg

Derrotando al campeón de GO

2008-01-02T22:08:00.001-05:00

Los juegos de mesa de carácter estratégico, como lo son el ajedrez, el backgammon, las damas, entre otros; siempre han sido atractivos para los programadores en IA. Hace algo más de una década fuimos testigos de la derrota humana frente a un computador en el juego más famoso de todos: el ajedrez. La máquina que logro esta proeza se llamaba Deep Blue, creada por IBM. El sistema era masivamente paralelo, compuesto por 30 nodos monoprocesador con 480 circuitos que procesan jugadas de ajedrez con un método denominado búsqueda por fuerza bruta, por medio del cual el sistema era capaz de evaluar 200 millones de posiciones por segundo.

La búsqueda por fuerza bruta es una forma trivial y general para solucionar problemas y consiste en utilizar todas las posibles soluciones candidatas y seleccionar la que más se acerque al objetivo. De cierta forma, la computadora evaluaba todos los posibles movimientos a partir de una jugada inicial, conociendo las múltiples consecuencias hasta una profundidad de 40 jugadas, construyendo un árbol de decisión. Mucho más allá de lo que puede un ser humano.

Sin embargo, la naturaleza del ajedrez hace que la búsqueda por fuerza bruta sea efectiva como lo demuestra este caso. En circunstancias donde existen variables aleatorias como el backgammon (cuyo movimiento esta determinado por los dados) o go (donde el tamaño del árbol de decisión es cerca de 10 veces más grande que el ajedrez, y las jugadas finales no son tan claramente definidas) esta técnica parece no tener la misma eficiencia. Sin embargo, el creador de Deep Blue cree lo contrario como lo demuestra este artículo.

Aunque no puedo desestimar los esfuerzos para solucionar por fuerza bruta este tipo de problemas... El incluir la palabra bruta en esta discusión, ¿elimina la posibilidad de inteligencia? En este caso, se desestima el desarrollo del aprendizaje en pro de estrellar la cabeza contra la pared unas cuantas veces hasta encontrar la puerta.

Imagen de: http://upload.wikimedia.org/wikipedia/en/2/2e/Go_board.jpg

De como evolucionan los enjambres (I)

2007-11-11T19:39:00.000-05:00

Voy a cumplir con lo que había prometido al inicio de este blog... Ahora que me encuentro en las fases finales de mi tesis de maestría, voy a explicar de que se trata. El primer paso es explicar algunos fundamentos teóricos para entender el objetivo de la tesis.

Dentro de IA, la inteligencia de enjambres es la rama que estudia las técnicas basadas en el comportamiento colectivo de sistemas auto-organizados y descentralizados (distribuidos). Estos sistemas están conformados típicamente de una población de agentes computacionales simples capaces de percibir y modificar su ambiente de manera local, lo cual hace posible la comunicación entre los individuos, que detectan los cambios en el ambiente generado por el comportamiento de sus semejantes. Aunque normalmente no hay una estructura centralizada de control que dictamina como los agentes deben comportarse, las interacciones locales entre los agentes usualmente llevan a la emergencia de un comportamiento global. Otra característica adicional es la inexistencia de un modelo explícito del ambiente.

Estos algoritmos son utilizados principalmente para la búsqueda de puntos óptimos en funciones no lineales. Para esto es necesario seleccionar los parámetros de la estrategia del algoritmo, lo cual corresponde a ubicar un punto dentro del espacio N-dimensional de parámetros, cuyo valor en la función de desempeño general del algoritmo sea el mínimo posible. Esta selección es una tarea compleja ya que se desconoce de una manera determinística la relación directa entre la función general de desempeño del algoritmo, los valores de los parámetros y la función objetivo. De hecho, este problema puede ser tan o más complejo que la solución del problema de optimización en sí, siendo necesario recurrir a formas más simples, donde algunas de las más comunes son la prueba sistemática de parámetros o por ensayo y error, las cuales presentan, entre otras, las siguientes limitaciones:

Los parámetros no son independientes, y probar todas las posibles combinaciones sistemáticamente es prácticamente imposible.
El proceso de sintonización requiere tiempo, inclusive si los parámetros son optimizados uno a uno, sin importar sus interacciones.
Para un problema determinado los parámetros seleccionados no son necesariamente óptimos, inclusive si el esfuerzo por sintonizarlos fue significativo.

Existen varios intentos de generar parámetros que se comporten de manera adecuada de forma general, o sea que los valores recomendados pueden ser aplicados a una variedad de problemas de optimización. En la actualidad se reconoce que cada problema requiere un grupo especifico de parámetros para su correcto desempeño, por lo tanto encontrar parámetros generales óptimos se considera inadecuado, puesto que no considera las naturaleza dinámica del proceso de búsqueda. En general, se ha aceptado la necesidad de que los parámetros cambien en función del tiempo teniendo en cuenta el desempeño general del algoritmo, donde este mecanismo se conoce como control de parámetros, que considera la modificación de los parámetros del sistema durante la solución del problema principal, ya sea por reglas deterministicas sin realimentación o por métodos adaptativos o evolutivos que poseen realimentación. La implementación de este ultimo tipo de método requiere conocer de manera directa la función de desempeño general del algoritmo o tener una función que pueda llevar a cabo la medición del desempeño y realizar una búsqueda sobre esta función en el espacio de parámetros, convirtiéndose en un segundo problema de optimización, afectado por los resultados del primer problema.

¿Pueden las máquinas ser creativas?

2007-11-05T12:28:00.000-05:00

El concepto de creatividad por lo general esta profundamente relacionado a la actividad humana. Puedo recordar una frase de la película "Yo, Robot", donde el agente Spooner le pregunta a Sony "¿Puede una máquina crear una obra de arte?"

Según algunos estudios, la creatividad se considera una característica puramente humana, ya que de cierta forma, esta relacionada con un pensamiento emocional. Una actividad creativa por lo general despierta cierto grado de admiración y curiosidad en el individuo. Por lo tanto, se cuestiona si las máquinas, cuyo "pensamiento" esta limitado a la racionalidad, pueden tener este tipo de actitudes.

El primer paso para generar una máquina creativa es entender el proceso creativo: ¿Donde reside la creatividad? ¿Un solo humano es creativo o depende de las concepciones del entorno para definir ideas novedosas? ¿Qué es novedoso, sorprendente, inusual, conflictivo?

Conozco de algunos trabajos realizados al respecto, y la creatividad artificial no es en realidad algo nuevo. De hecho, se han escrito algunos tratados, libros, tesis y mas documentación al respecto. Inclusive se han producido artefactos novedosos por máquinas que le han sido otorgados patentes en los EEUU, y de obras de arte producidas por máquinas por medio de técnicas de inteligencia evolutiva...

Según algunos estudiosos, la creatividad es humana, porque el ser humano sabe que su trabajo es creativo, porque el ser humano sabe que piensa y sabe que existe, mientras una máquina no... Bajo este concepto, la creatividad artificial esta ligada a la vida artificial. Entonces, ¿la conjunción de los múltiples modelos de pensamiento existentes, producen como resultado un agente capaz de pensar y saber que lo hace?

Imagen de: http://movies.yahoo.com/movie/1808461629/photo/535566

Equilibrio: El dilema del prisionero

2007-10-03T12:04:00.000-05:00

La teoría de juegos es el campo matemático creado para estudiar situaciones en las que se producen conflictos y cooperación entre uno o mas individuos, denominadas jugadores. Cada jugador tiene libertad para actuar y elegir entre diversas opciones disponibles, denominadas estrategias, que conducen a diferentes resultados, llamados pagos. Cada jugador tiene una preferencia sobre las ganancias y perdidas resultantes.

El dilema del prisionero es un problema usado como ejemplo en la teoría de juegos y en particular en la definición del equilibrio. Este "juego" proporciona una explicación sencilla de las fuerzas que entran en juego en las carreras armamentistas, guerras de precios, campañas de publicidad costosas y muchos otros asuntos similares. Su importancia radica no solo en la ilustración de una paradoja social frecuente en la vida cotidiana, sino en que permite explicar de una manera muy simple el concepto de equilibrio.

En el dilema se supone la existencia de dos sospechosos criminales que son mantenidos incomunicados. Cada uno puede escoger dos opciones: Seguir afirmando su inocencia individual o la de ambos, o firmar una confesión acusando al otro de cometer el crimen. Normalmente el propio interés del individuo dicta que confiese, es decir, que implique al otro y reciba una condena menor. Sin embargo, cuando ambos confiesan, llegan a un mal resultado, es decir, que ambos son culpables. Lo bueno para los prisioneros como pareja, una negación categórica de ambos, se ve frustrado por su búsqueda de recompensas individuales.

Este juego presenta una situación donde los objetivos de los jugadores solo son conflictivos en parte y se pueden lograr ganancias si ambos cooperan. Este estado de todos ganan establece estrategias en equilibrio, donde la alteración de la estrategia de cualquier jugador unilateralmente no implica un pago mejor para todos los individuos. Es decir, lo mejor para todos es a la vez lo mejor para el individuo.

Puede parecer a simple vista que este concepto no tiene relación con el estudio de IA. Sin embargo, existen nuevas teorías, sobretodo dentro del ámbito de inteligencia colectiva donde existen dos o más agentes, que buscan obtener el mayor beneficio para el colectivo y no para el individuo. En este caso, se debe establecer una relación entre los individuos para lograr el objetivo común, siendo necesario definir un mecanismo que podríamos llamar "empatia" entre agentes.

Surge una nueva pregunta. ¿Será posible desarrollar empatia entre individuos artificiales?

Imagen de: http://upload.wikimedia.org/wikipedia/commons/thumb/0/0f/Prison.jpg/200px-Prison.jpg

La concepción de Inteligencia

2007-09-17T21:31:00.000-05:00

Si examinamos la definición de Wikipedia de la inteligencia, encontraremos que se entiende como la capacidad de un sistema (humano o no) de entender y comprender su entorno, y de resolver problemas (bajo esta definición podría, en ocasiones, cuestionarse la existencia de la inteligencia humana) Esta definición, que por cierto no carece de polémica, se puede ver limitada al no incluir la capacidad de razonar, planear, resolver problemas, pensar de manera abstracta, comprender ideas y lenguajes, aprender, inclusive poseer rasgos de creatividad, personalidad, carácter, conocimiento o sabiduría (bajo esta otra definición podría cuestionar aun más la creencia que todos los seres humanos son inteligentes).

Según una definición interesante, el ser humano no es inteligente de una manera racional. De hecho, al verse condicionado por sus sentimientos y sensaciones, el ser humano posee un comportamiento que raya lo irracional, que no puede descartarse de inteligente. La racionalidad implica tomar siempre la decisión correcta. En algunas ocasiones la decisión correcta no es solo la evidente.

Para muchos investigadores en el área de IA, construir una máquina irracional pero inteligente (entendiéndose como capaz de usar no solo el razonamiento lógico sino también hacer uso de emociones) es una idea bastante atractiva. Sin embargo, esta eleva una serie de interrogantes que requieren ser solucionados: ¿podemos enseñar a una máquina a tener ética y morales? Además, si esa ética y morales deben ser programados o enseñados, ¿cual es el modelo a enseñar a estas máquinas? ¿Como darle inteligencia sentimental a una máquina? ¿Es de hecho posible, o estamos coqueteando con los límites humanos?

Hay dos películas que me parecen muy interesantes por su posición frente al tema: "Corto Circuito" y "Yo, Robot", donde las máquinas poseen más allá de inteligencia racional, sino una verdadera introspección acerca de su propia existencia. Estarán únicamente en el espacio de la ficción o tal vez están más cerca de la realidad. ¿En algún punto podremos crear máquinas humanas?

La posibilidad me parece muy interesante.

Imagen de: http://www.answers.com/topic/johnny-5

¿De qué trata Agentes Inteligentes?

2007-09-16T10:41:00.000-05:00

El ser humano se ha dado a si mismo el nombre científico de homo sapiens como una valoración de la trascendencia de sus habilidades mentales tanto para su vida cotidiana como en su propio sentido de identidad, y por lo tanto, la comprensión de estas habilidades ha permitido el nacimiento de ramas científicas que se encargan, por diferentes métodos, de analizar, entender y, en un caso particular, emular la inteligencia. A esta rama en particular se le conoce como Inteligencia Artificial o IA, la cual se enfoca en lograr no solo la comprensión de las entidades inteligentes sino su construcción. La importancia de la IA no radica únicamente en un esfuerzo de dotar de capacidades mentales a objetos inanimados sino también aprender más acerca de la humanidad misma.

La IA es una disciplina relativamente nueva y sus orígenes se remontan formalmente a 1956, cuando el termino fue acuñado, sin embargo, el estudio de la inteligencia puede remontarse a la antigüedad, cuando los filósofos se esforzaban por comprender como se ve, aprende, recuerda, razona, e inclusive como deberían ser realizadas estas tareas. Incluso dentro de la IA existen dos escuelas de pensamiento, nacidas de la divergencia en los puntos de vista de como puede ser construida y como razona una entidad inteligente: La Inteligencia Artificial Convencional (Good Old Fashioned Artificial Intelligence - GOFAI), la cual define que las soluciones deben ser elegantes, claras y probablemente correctas, e involucra métodos formales y lógicos; y la Inteligencia Computacional (Computational Intelligence - CI), la cual considera que la inteligencia es muy compleja para ser solucionada de manera formal, por lo tanto involucra métodos iterativos donde se desarrolla el conocimiento. Si bien las soluciones lógicas propuestas por GOFAI, conocida más generalmente como aprendizaje de máquina, no pueden ser descartadas en varias aplicaciones, es claro que en algunas circunstancias, el desarrollo del conocimiento es más útil que su programación. Las técnicas de CI tienen cada vez una mayor acogida y a cada instante se obtienen nuevos descubrimientos en sus tres campos: Las Redes Neuronales Artificiales (Artificial Neural Networks - ANN), los Sistemas Difusos (Fuzzy Systems - FS) y la Computación Evolutiva (Evolutionary Computation - EC).

Este blog pretende ser un punto de encuentro para investigadores y personas interesadas en la IA, en particular con el impacto que las entidades inteligentes o agentes están cambiando nuestro entorno diario. Pretendo por este medio, no solo compartir mi trabajo de investigación de una manera más simple y asequible al publico general, sino como punto de encuentro de nuevas ideas y de opiniones en general sobre el desarrollo de la IA, tanto en Colombia, como en Latinoamerica y el mundo.

Espero que por medio de este blog, podamos establecer un canal de colaboración para el desarrollo de nuevas ideas dentro del área y sobretodo debatir el efecto que nuestro trabajo tiene sobre la sociedad al construir sistemas inteligentes con aplicaciones prácticas. Hasta una próxima oportunidad.

Imagen de: http://pages.cs.wisc.edu/~dyer/cs540.html