CVentaur : Una aplicació web per a detecció d’objectes que aprèn de tu

Abstract

Durant els darrers anys, el camp de la intel·ligència artificial i l’aprenentatge automàtic ha experimentat un creixement revolucionari gràcies als avenços en àrees com l’aprenentatge profund, i que han obert les portes a noves solucions, eines i tecnologies que fins ara eren impossibles d’implementar. Algunes d’aquestes aplicacions les trobem ja instaurades en el nostre dia a dia en àmbits com el reconeixement facial, la detecció d’anomalies en temàtiques molt diverses, la predicció borsària o meteorològica, i l’optimització de processos, entre molts d’altres. Actualment, però, la gran majoria estan encara en desenvolupament o es troben a l’espera de resoldre problemes relacionats amb la seguretat, la legalitat i fins i tot amb l’ètica dels agents intel·ligents implicats. S’estan plantejant situacions i conseqüències derivades de l’ús d’aquest tipus de sistemes que mai abans s’havien hagut de considerar. La quantitat de recursos econòmics i professionals que s’estan destinant a aquest camp és enorme, atès el seu potencial, tant per empreses privades com per altres institucions investigadores. És per això que existeix també força preocupació per l’ús d’aquesta tecnologia i els seus propietaris, ja que pot suposar un avantatge determinant sobre la resta d’empreses o països, i esdevenir un perill molt seriós voluntàriament o involuntàriament, per una desviació entre el comportament que esperem del sistema i el que n’obtenim. Per exemple, hi ha nombrosos exemples documentats d’agents intel·ligents que tenen un comportament esbiaixat per falta de contextsociocultural. (1) També cal tenir en compte que, com a eina digital que és, la seva integració en els processos actuals pot arribar a ser massa ràpida per a un món físic de persones que cal que acompanyi. L’automatització d’algunes tasques que fins ara desenvolupaven únicament els humans suposarà un canvi molt important en el tipus de feina del futur, raó per la qual cal anar-se preparant i mirar amb deteniment les repercussions de posar en funcionament un sistema d’aquestes característiques. No obstant, en el món actual molts processos són poc eficients, i nombroses organitzacions pateixen una falta de recursos i de personal evident. És aquí també on es podrien intentar fer servir aquestes noves solucions per ajudar i millorar la qualitat de vida de tots els ciutadans. És la cara bona de la moneda. Amb aquesta idea en ment neix CVentaur, un prototip de plataforma on persones no expertes en intel·ligència artificial puguin col·laborar per crear i validar models d’aprenentatge automàtic orientats a la detecció d’objectes en imatges, amb el fi d’accelerar, millorar la precisió i evitar errors en aquests tipus de tasques. Es tracta d’aprofitar el coneixement d’aquestes persones i digitalitzar-lo perquè es pugui utilitzar i compartir més fàcilment, alhora que elles se’n beneficien.

Durante los últimos años, el campo de la inteligencia artificial i el aprendizaje automático ha experimentado un crecimiento revolucionario gracias a avances en áreas como el aprendizaje profundo, y que han abierto las puertas a nuevas soluciones, herramientas y tecnologías que hasta ahora eran imposibles de implementar Algunas de estas aplicaciones las encontramos ya instauradas en nuestro día a día en ámbitos como el reconocimiento facial, la detección de anomalías de origen diverso, la predicción bursátil o meteorológica y la optimización de procesos, entre muchos otros. Sin embargo, actualmente la gran mayoría están aún en desarrollo o se encuentra a la espera de resolver problemas relacionados con la seguridad, la legalidad o incluso con la ética de los agentes inteligentes implicados. Se están planteando situaciones y consecuencias derivadas del uso de este tipo de sistemas que nunca antes habían sido necesarias de considerar. La cantidad de recursos económicos y profesionales que se están destinando a este campo es enorme, dado su potencial, tanto por empresas privadas como por otras instituciones investigadoras. Por ello, existe también bastante preocupación por el uso de esta tecnología y sus propietarios, ya que puede suponer una ventaja determinante sobre las demás empresas o países y convertirse en un peligro muy serio voluntaria o involuntariamente por una desviación entre el comportamiento esperado o deseado del sistema y el que obtenemos. Por ejemplo, existen numerosos ejemplos documentados de agentes inteligentes que tienen un comportamiento racista o sexista por haber usado datos sesgados durante el entrenamiento o por falta de contexto sociocultural. (1) Hay que tener en cuenta que, como herramienta digital que es, su integración en los procesos actuales puede llegar a ser demasiado rápida para un mundo físico de personas que es necesario que acompañe. La automatización de algunas tareas que hasta ahora desarrollaban únicamente los humanos supondrá un cambio muy importante en el tipo de trabajo del futuro, razón por la cual hay que empezar a prepararse y mirar con lupa las repercusiones de poner en marcha un sistema de estas características. No obstante, en el mundo actual muchos procesos son poco eficientes y numerosas organizaciones padecen una falta de recursos y de personal evidente. Es aquí también donde se podría intentar hacer uso de estas nuevas soluciones para ayudar y mejorar la calidad de vida de todos los ciudadanos. Es la cara buena de la moneda. Con esta idea en mente nace CVentaur, un prototipo de plataforma donde personas no expertas en inteligencia artificial puedan colaborar para crear modelos de aprendizaje automático para la detección de objetos en imágenes, con el objetivo de acelerar, mejorar y evitar errores en este tipo de tareas. Se trata de aprovechar el conocimiento de estas personas y digitalizarlo para que pueda ser usado y compartido más fácilmente, al mismo tiempo que éstas se benefician.

During the last years, the field of artificial intelligence and machine learning has experienced a revolutionary growth due to advances in areas such as deep learning, which have opened the doors to new solutions, tools and technologies that were impossible to implement until now. Some of these applications are already installed in our everyday life in areas like facial recognition, anomaly detection, weather and stock market forecasting and process optimization, among many others. Nonetheless, nowadays most of them are still under development or waiting for problems related to security, laws or even ethics of the intelligent agents to be solved. New situations and consequences arising from the use of this kind of systems are being considered for the first time. The amount of economic and professional resources that are being allocated to this field is huge, because of its potential, both by private companies and by other research institutions. For this reason, there is also a big concern about the use of this technology and its owners, since it can be a determining advantage over other companies or countries and become a very serious danger voluntarily or involuntarily due to a deviation between the behaviour that we expect or we want from the system and the one we actually get. For example, there are lots of documented cases of intelligent agents with racist or sexist behaviour because of the use of biased data during training or lack of sociocultural context. (1) We must consider that, as a digital tool it is, the integration of artificial intelligence into current processes may happen too fast for a physical world of people that will have to follow. The automation of some tasks that have been always carried out by humans will cause a very important change in the type of work of the future, which is why we must start preparing and thinking deeply about the impact of setting up a system with these characteristics. However, in today's world many processes are inefficient, and many organizations suffer from an evident lack of resources and personnel. Here, we could try to make use of these new solutions in order to help and improve the quality of life of all citizens. It is the good side of the story. With this idea in mind, I’ve developed CVentaur, a prototype platform where people with no expertise in artificial intelligence can collaborate to create machine learning models for object detection in images, with the purpose of accelerating, improving and avoiding errors in this kind of tasks. It is aimed to take advantage of the knowledge of these people and to digitise it so that it can be used and shared more easily, while they are also benefitting.