Bengio Lanza el Laboratorio de Seguridad de IA LawZero
El reconocido investigador de IA Yoshua Bengio ha lanzado LawZero, una organización sin fines de lucro dedicada a construir sistemas de inteligencia artificial más seguros. La iniciativa obtuvo una financiación sustancial de 30 millones de dólares de figuras y organizaciones prominentes en la industria tecnológica y el sector filantrópico, incluidas contribuciones del cofundador de Skype, Jaan Tallinn, el ex CEO de Google, Eric Schmidt, Open Philanthropy y el Future of Life Institute.
Enfoque en la Seguridad
El nombre LawZero está inspirado en el concepto de la Ley Cero de la Robótica, que prioriza la protección de la humanidad por encima de todo. Esto destaca el objetivo principal del laboratorio: mitigar los riesgos potenciales asociados con la rápida evolución de las tecnologías de IA. Bengio, una voz líder en el movimiento de seguridad de la IA, ha expresado preocupaciones sobre la trayectoria actual del desarrollo de la IA, particularmente con respecto a la priorización de la seguridad por parte de las grandes empresas tecnológicas.
Preocupaciones sobre las Prácticas de la Industria
La decisión de Bengio de establecer una organización sin fines de lucro separada refleja una percepción de falta de enfoque suficiente en la seguridad de la IA dentro de las grandes corporaciones. Su escepticismo hacia las medidas de seguridad implementadas por empresas como OpenAI y Google destaca la urgencia que siente con respecto a los peligros potenciales del desarrollo no controlado de la IA. Esta iniciativa representa un paso significativo para abordar estas preocupaciones y promover la innovación responsable en IA.
Fuente: TechCrunch