Alexey Ivakhnenko - Alexey Ivakhnenko

Alexey Ivakhnenko
Alexey Ivakhnenko, Kiev 1967.jpg
Nacido
Oleksiy Hryhorovych Ivakhnenko

( 30 de marzo de 1913 ) 30 de marzo de 1913
Fallecido 16 de octubre de 2007 (2007-10-16) (94 años)
Nacionalidad ucranio
alma mater Instituto Electrotécnico de Leningrado ( M.Sc )
Conocido por Método grupal de manejo de datos ,
aprendizaje profundo ,
modelado inductivo
Premios Científico honorario de la URSS
Dos premios estatales de la URSS
Orden amistad de los pueblos rib.png DistinguishedLabourRibbon.png RibbonLabourDuringWar.png
Carrera científica
Campos Inteligencia artificial ,
aprendizaje automático ,
informática
Instituciones Instituto Glushkov de Cibernética del Reino Unido ,
Instituto Electrotécnico de
Kiev , Instituto Politécnico de Kiev ( D.Sc )
Tesis Teoría de los sistemas combinados para el control automático de motores eléctricos   (1954)
Estudiantes notables VM Kuntsevich, VI Kostiuk
VI Ivanenko, VI Vasylyev
OA Pavlov

Alexey Ivakhnenko ( ucraniano : Олексíй Григо́рович Іва́хненко ); (30 de marzo de 1913 - 16 de octubre de 2007) fue un matemático soviético y ucraniano más famoso por desarrollar el Método grupal de manejo de datos (GMDH), un método de aprendizaje estadístico inductivo, por el que a veces se le conoce como el "Padre del aprendizaje profundo ".

Temprana edad y educación

Aleksey nació en Kobelyaky , Gobernación de Poltava en una familia de maestros. En 1932 se graduó en la facultad de electrotecnia de Kiev y trabajó durante dos años como ingeniero en la construcción de una gran central eléctrica en Berezniki . Luego, en 1938, después de graduarse del Instituto Electrotécnico de Leningrado , Ivakhnenko trabajó en el Instituto Electrotécnico de la Unión en Moscú durante la guerra . Allí investigó los problemas del control automático en el laboratorio, dirigido por Sergey Lebedev .

Continuó investigando en otras instituciones de Ucrania después de regresar a Kiev en 1944. En ese año recibió el doctorado. grado y posteriormente, en 1954 había recibido D.Sc. la licenciatura. En 1964 fue nombrado Jefe del Departamento de Sistemas de Control Combinados del Instituto de Cibernética. Trabajando simultáneamente al principio como Conferencista, y desde 1961, como Profesor de Control Automático y Cibernética Técnica en el Instituto Politécnico de Kiev .

Investigación

Se sabe que Ivakhnenko es el fundador del modelado inductivo, un enfoque científico utilizado para el reconocimiento de patrones y la previsión de sistemas complejos. Había utilizado este enfoque durante el desarrollo del Método grupal de manejo de datos (GMDH). En 1968 la revista "Avtomatika" había publicado su artículo "Método grupal de manejo de datos - un rival del método de aproximación estocástica", marcando el comienzo de una nueva etapa en su trabajo científico. Lideró el desarrollo de este enfoque, con un equipo profesional de matemáticos e ingenieros en el Instituto de Cibernética.

Método grupal de manejo de datos

El método GMDH presenta un enfoque único para la solución de problemas de inteligencia artificial e incluso una nueva filosofía para la investigación científica , que se hizo posible utilizando computadoras modernas. Un investigador puede no adherirse precisamente a la forma deductiva tradicional de construir modelos "desde la teoría general - a un modelo particular": monitorear un objeto, estudiar su estructura, comprender los principios de su funcionamiento, desarrollar la teoría y probar el modelo de un objeto. En cambio, el nuevo enfoque se propone "a partir de datos especificados - a un modelo general": después de la entrada de datos, un investigador selecciona una clase de modelos, el tipo de modelos-generación de variantes y establece el criterio para la selección del modelo. Como la mayor parte del trabajo rutinario se transfiere a una computadora, se minimiza el impacto de la influencia humana en el resultado objetivo. De hecho, este enfoque puede considerarse como una de las implementaciones de la tesis de la inteligencia artificial, que establece que una computadora puede actuar como un poderoso asesor de los humanos.

El desarrollo de GMDH consiste en una síntesis de ideas de diferentes áreas de la ciencia: el concepto cibernético de " caja negra " y el principio de selección genética sucesiva de características por pares , los teoremas de incompletitud de Godel y el principio de Gabor de "libertad de elección de decisiones", la incorrección de Adhémar y el principio de las adiciones externas de Beer .

GMDH es el método original para resolver problemas de identificación estructural-paramétrica de modelos para datos experimentales bajo incertidumbre . Tal problema ocurre en la construcción de un modelo matemático que se aproxima al patrón desconocido del objeto o proceso investigado. Utiliza información sobre él que está implícitamente contenida en los datos. GMDH se diferencia de otros métodos de modelado por la aplicación activa de los siguientes principios : generación automática de modelos, decisiones no concluyentes y selección consistente por criterios externos para encontrar modelos de complejidad óptima. Tenía un procedimiento original de múltiples capas para la generación automática de estructuras de modelos, que imita el proceso evolutivo de selección biológica con la consideración de características sucesivas por pares. Este procedimiento se utiliza actualmente en redes de aprendizaje profundo . Para comparar y elegir modelos óptimos, se utilizan dos o más subconjuntos de una muestra de datos. Esto permite evitar supuestos preliminares, porque la división de la muestra reconoce implícitamente diferentes tipos de incertidumbre durante la construcción automática del modelo óptimo.

A principios de la década de 1980, Ivakhnenko había establecido una analogía orgánica entre el problema de construir modelos para datos ruidosos y la señal que pasa a través del canal con ruido . Esto hizo posible sentar las bases de la teoría del modelado inmune al ruido. El principal resultado de esta teoría es que la complejidad del modelo predictivo óptimo depende del nivel de incertidumbre en los datos: cuanto mayor sea este nivel (por ejemplo, debido al ruido), más simple debe ser el modelo óptimo (con menos parámetros estimados). Esto inició el desarrollo de la teoría GMDH como un método inductivo de adaptación automática de la complejidad óptima del modelo al nivel de información en datos difusos . Por lo tanto, a menudo se considera que GMDH es la tecnología de la información original para la extracción de conocimientos de datos experimentales .

Resultados

Junto con GMDH, Ivakhnenko había desarrollado el siguiente conjunto de resultados:

  • Nuevos principios de control automático de velocidad para motores eléctricos AC y asíncronos .
  • Teoría de sistemas invariantes para control adaptativo con compensación de perturbaciones medidas. Había desarrollado el principio de medición indirecta de perturbaciones, denominado "horquilla diferencial" que se utilizó más tarde en la práctica.
  • Principio de control combinado (con retroalimentación negativa para las variables controladas y retroalimentación positiva para las perturbaciones controladas). En la práctica se habían implementado varios de estos sistemas para el control de la velocidad de los motores eléctricos. Eso demostró la viabilidad práctica de condiciones invariantes en sistemas de control combinados que unen las ventajas de los sistemas cerrados para el control por desviación (alta precisión) y los sistemas abiertos (desempeño).
  • Los reguladores extremos no buscadores sobre la base del reconocimiento de situaciones.
  • Principio de reconocimiento de patrones de autoaprendizaje. Se demostró en un principio en el sistema cognitivo "Alpha", creado bajo su liderazgo.
  • Base para la construcción de dispositivos de predicción cibernética.
  • Teoría de la autoorganización de modelos según datos experimentales.
  • Método de control con optimización de previsiones.
  • Principios inmunes al ruido de modelado robusto para datos con ruidos.
  • Principio de construcción de redes de aprendizaje profundo autoorganizadas.
  • Diseño de redes neuronales multicapa con neuronas activas, donde cada neurona es un algoritmo.

Ivakhnenko es bien conocido por sus logros en la teoría de la invariancia y la teoría de los sistemas de control automático combinados, que opera según el principio de compensación de perturbaciones medidas. Había desarrollado dispositivos y métodos para el control adaptativo de sistemas con amplificadores magnéticos y motores.

Es el autor de la primera monografía ucraniana sobre cibernética técnica, que se publicó en todo el mundo en siete idiomas. En su estudio, un mayor desarrollo de los principios del control combinado se relacionó con la implementación de métodos de autoorganización evolutiva , reconocimiento de patrones y pronóstico en los sistemas de control .

En los últimos años, su principal innovación, el método GMDH, se desarrolló como un método de modelado inductivo, procesos complejos y previsión de sistemas . Sus ideas se utilizan ahora en las redes de Deep Learning . La efectividad del método se confirmó repetidamente durante la solución de problemas complejos reales en ecología , meteorología , economía y tecnología , lo que ayudó a aumentar su popularidad entre la comunidad científica internacional. Paralelamente, se llevaron a cabo desarrollos de algoritmos evolutivos autoorganizados en un campo relacionado: problemas de agrupamiento de reconocimiento de patrones. Avances en el modelado de procesos ambientales reflejados en las monografías, procesos económicos - en los libros. Los resultados de la exploración de algoritmos GMDH multicapa recurrentes se describen en los libros.

Escuela científica

De 1963 a 1989 Ivakhnenko fue el editor de la revista científica especializada "Avtomatika" (más tarde "Problemas de gestión e informática"), que jugó un papel crucial en la formación y desarrollo de la escuela ucraniana de modelado inductivo. A lo largo de estos años, la revista fue traducida y reimpresa en los Estados Unidos como "Control Automático Soviético" (más tarde "Revista de Automatización y Ciencias de la Información").

Junto con la innovación constante en su campo desde 1945, Ivakhnenko mantuvo una activa carrera docente, al principio como profesor asistente en el Departamento de Mecánica Teórica y luego en la facultad de Sistemas de Control. Desde 1960 como profesor del Departamento de Cibernética Técnica en el Instituto Politécnico de Kiev , contribuyó con conferencias a la Universidad y al cuerpo estudiantil, además de supervisar el trabajo de muchos estudiantes graduados. En 1958-1964 fue organizador de las Conferencias de Invarianza de toda la Unión en Kiev, donde se restauró el desarrollo de la teoría de los sistemas de control invariantes después de la prohibición.

Su inagotable entusiasmo ayudó a más de 220 jóvenes científicos a preparar y defender con éxito su doctorado. disertaciones bajo su liderazgo en el KPI y el Instituto de Cibernética y casi 30 de sus estudiantes defendieron sus disertaciones posdoctorales. La escuela científica de Ivakhnenko fue y es una verdadera cuna de profesionales científicos altamente calificados. Además, sus alumnos VMKuntsevych, VIKostyuk, VIIvanenko, VIVasiliev, AAPavlov y otros habían creado sus propias escuelas científicas respetadas. Ivakhnenko fue un brillante ejemplo de científico, con un agudo sentido de nueva y notable intuición científica. Hasta sus últimos días, continuó trabajando activa y generosamente generando ideas y resultados científicos originales.

Premios y honores

Ivakhnenko es el científico honorario de la URSS (1972), dos veces ganador del Premio Estatal (1991, 1997) por sus trabajos sobre la teoría de los sistemas automáticos invariantes y un conjunto de publicaciones sobre tecnología de la información en el campo de la inteligencia artificial. Autor de 40 libros y más de 500 artículos científicos. Doctor Honoris Causa de la Universidad Técnica Nacional "KPI" (2003) y Politécnica de Lviv (2005). Fue Miembro Correspondiente de la Academia de Ciencias de la URSS (1961) y Académico de la NAS de Ucrania (2003).

Trabajos seleccionados

  • Ivakhnenko AG Autoorganización heurística en problemas de ingeniería cibernética , Automatica, vol.6, 1970 - p. 207-219.
  • Ivakhnenko AG Teoría polinomial de sistemas complejos , IEEE Transactions on Systems Man and Cybernetics, 4, 1971 - p. 364-378.
  • Ivakhnenko, AG; Ivakhnenko, GA (1995). "La revisión de problemas solucionables por algoritmos del método de grupo de manejo de datos (GMDH)" (PDF) . Reconocimiento de patrones y análisis de imágenes . 5 (4): 527–535. CiteSeerX   10.1.1.19.2971 .
  • Ivakhnenko, AG; Müller, J.-A. (1997). "Desarrollos recientes del modelado autoorganizado en la predicción y análisis del mercado de valores" (PDF) . Microelectron.Reliab . 37 : 1053–1072. CiteSeerX   10.1.1.19.4973 .

Referencias

enlaces externos