/ miércoles 22 de noviembre de 2023

Directorio de OpenAI recibió advertencia sobre IA antes de despedir a Sam Altman

La carta y el algoritmo de inteligencia artificial, de los que hasta ahora no se había informado, constituyeron un avance clave previo a que el consejo de administración destituyera a Altman

Antes de que Sam Altman, presidente ejecutivo de OpenAI, pasara cuatro días apartado de la empresa, varios investigadores de la plantilla enviaron al directorio una carta en la que advertían de un potente descubrimiento de inteligencia artificial que, según ellos, podría amenazar a la humanidad, dijeron a Reuters dos personas familiarizadas con el asunto.

La carta y el algoritmo de inteligencia artificial, de los que hasta ahora no se había informado, constituyeron un avance clave previo a que el consejo de administración destituyera a Altman, el rostro de la inteligencia artificial generativa, dijeron las dos fuentes. Antes de su regreso triunfal a última hora del martes, más de 700 empleados habían amenazado con renunciar en solidaridad y unirse a él en Microsoft MSFT.O.

Únete al canal de El Sol de México en WhatsApp para no perderte la información más importante

Las fuentes citaron la carta como uno de los factores de una larga lista de quejas del directorio que provocaron el despido de Altman. Reuters no pudo examinar una copia de la carta. Los investigadores que redactaron la carta no respondieron inmediatamente a los pedidos de comentarios.

Según una de las fuentes, la veterana ejecutiva Mira Murati mencionó el proyecto, llamado Q*, a los empleados el miércoles y dijo que se había enviado una carta al consejo antes de los acontecimientos de este fin de semana.

Tras la publicación de la noticia, una portavoz de OpenAI dijo que Murati había comunicado a los empleados lo que los medios iban a informar, pero no hizo comentarios sobre la exactitud de la información.

El fabricante de ChatGPT había avanzado en Q* (pronunciado Q-Star), que algunos creen internamente que podría ser un gran avance en la búsqueda de la superinteligencia, también conocida como inteligencia artificial general (IAG), dijo una de las personas a Reuters. OpenAI define la IAG como sistemas de IA más inteligentes que los humanos.

El nuevo modelo, dotado de vastos recursos informáticos, fue capaz de resolver algunos problemas matemáticos, dijo la persona bajo condición de anonimato por no estar autorizada a hablar en nombre de la empresa. Si bien solo resuelve operaciones matemáticas para estudiantes de primaria, el hecho de superar estas pruebas hace que los investigadores sean muy optimistas sobre el futuro éxito de Q*, según la fuente.

Reuters no pudo verificar de forma independiente las capacidades de Q* declaradas por los investigadores.

Superinteligencia

Los investigadores consideran que las matemáticas son una frontera a cruzar en el desarrollo de la inteligencia artificial.

Actualmente, la IA generativa es buena escribiendo y traduciendo idiomas mediante la predicción estadística de la siguiente palabra, y las respuestas a una misma pregunta pueden variar mucho. Lograr la capacidad de hacer cálculos matemáticos -donde solo hay una respuesta correcta- implica que la IA tendría una mayor capacidad de razonamiento, que se asemejaría a la inteligencia humana. Esto podría aplicarse, por ejemplo, a nueva investigación científica, creen los investigadores de IA.

A diferencia de una calculadora que puede resolver un número limitado de operaciones, la IAG puede generalizar, aprender y comprender.

En su carta a al directorio, los investigadores señalaron las proezas de la IA y sus posibles riegos, dijeron las fuentes, que no especificaron los problemas de seguridad exactos señalados en la carta. Los informáticos llevan mucho tiempo debatiendo sobre el peligro que suponen las máquinas superinteligentes, por ejemplo, si pueden decidir que les interesa la destrucción de la humanidad.

Con este telón de fondo, Altman dirigió los esfuerzos para hacer de ChatGPT una de las aplicaciones de software de más rápido crecimiento de la historia y atrajo la inversión -y los recursos informáticos- necesarios de Microsoft para acercarse a la superinteligencia, o IAG.

Además de anunciar una serie de nuevas herramientas en una demostración este mes, Altman insinuó la semana pasada en una reunión de líderes mundiales en San Francisco que creía que la IAG estaba al alcance.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

"Cuatro veces en la historia de OpenAI, la más reciente en las últimas dos semanas, he tenido la oportunidad de estar en la sala en la que corrimos el velo de la ignorancia y la frontera del descubrimiento hacia delante, y poder hacerlo es el honor profesional de mi vida", dijo en la cumbre de Cooperación Económica Asia-Pacífico.

Un día después, la junta despidió a Altman.

Antes de que Sam Altman, presidente ejecutivo de OpenAI, pasara cuatro días apartado de la empresa, varios investigadores de la plantilla enviaron al directorio una carta en la que advertían de un potente descubrimiento de inteligencia artificial que, según ellos, podría amenazar a la humanidad, dijeron a Reuters dos personas familiarizadas con el asunto.

La carta y el algoritmo de inteligencia artificial, de los que hasta ahora no se había informado, constituyeron un avance clave previo a que el consejo de administración destituyera a Altman, el rostro de la inteligencia artificial generativa, dijeron las dos fuentes. Antes de su regreso triunfal a última hora del martes, más de 700 empleados habían amenazado con renunciar en solidaridad y unirse a él en Microsoft MSFT.O.

Únete al canal de El Sol de México en WhatsApp para no perderte la información más importante

Las fuentes citaron la carta como uno de los factores de una larga lista de quejas del directorio que provocaron el despido de Altman. Reuters no pudo examinar una copia de la carta. Los investigadores que redactaron la carta no respondieron inmediatamente a los pedidos de comentarios.

Según una de las fuentes, la veterana ejecutiva Mira Murati mencionó el proyecto, llamado Q*, a los empleados el miércoles y dijo que se había enviado una carta al consejo antes de los acontecimientos de este fin de semana.

Tras la publicación de la noticia, una portavoz de OpenAI dijo que Murati había comunicado a los empleados lo que los medios iban a informar, pero no hizo comentarios sobre la exactitud de la información.

El fabricante de ChatGPT había avanzado en Q* (pronunciado Q-Star), que algunos creen internamente que podría ser un gran avance en la búsqueda de la superinteligencia, también conocida como inteligencia artificial general (IAG), dijo una de las personas a Reuters. OpenAI define la IAG como sistemas de IA más inteligentes que los humanos.

El nuevo modelo, dotado de vastos recursos informáticos, fue capaz de resolver algunos problemas matemáticos, dijo la persona bajo condición de anonimato por no estar autorizada a hablar en nombre de la empresa. Si bien solo resuelve operaciones matemáticas para estudiantes de primaria, el hecho de superar estas pruebas hace que los investigadores sean muy optimistas sobre el futuro éxito de Q*, según la fuente.

Reuters no pudo verificar de forma independiente las capacidades de Q* declaradas por los investigadores.

Superinteligencia

Los investigadores consideran que las matemáticas son una frontera a cruzar en el desarrollo de la inteligencia artificial.

Actualmente, la IA generativa es buena escribiendo y traduciendo idiomas mediante la predicción estadística de la siguiente palabra, y las respuestas a una misma pregunta pueden variar mucho. Lograr la capacidad de hacer cálculos matemáticos -donde solo hay una respuesta correcta- implica que la IA tendría una mayor capacidad de razonamiento, que se asemejaría a la inteligencia humana. Esto podría aplicarse, por ejemplo, a nueva investigación científica, creen los investigadores de IA.

A diferencia de una calculadora que puede resolver un número limitado de operaciones, la IAG puede generalizar, aprender y comprender.

En su carta a al directorio, los investigadores señalaron las proezas de la IA y sus posibles riegos, dijeron las fuentes, que no especificaron los problemas de seguridad exactos señalados en la carta. Los informáticos llevan mucho tiempo debatiendo sobre el peligro que suponen las máquinas superinteligentes, por ejemplo, si pueden decidir que les interesa la destrucción de la humanidad.

Con este telón de fondo, Altman dirigió los esfuerzos para hacer de ChatGPT una de las aplicaciones de software de más rápido crecimiento de la historia y atrajo la inversión -y los recursos informáticos- necesarios de Microsoft para acercarse a la superinteligencia, o IAG.

Además de anunciar una serie de nuevas herramientas en una demostración este mes, Altman insinuó la semana pasada en una reunión de líderes mundiales en San Francisco que creía que la IAG estaba al alcance.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

"Cuatro veces en la historia de OpenAI, la más reciente en las últimas dos semanas, he tenido la oportunidad de estar en la sala en la que corrimos el velo de la ignorancia y la frontera del descubrimiento hacia delante, y poder hacerlo es el honor profesional de mi vida", dijo en la cumbre de Cooperación Económica Asia-Pacífico.

Un día después, la junta despidió a Altman.

Local

Turismo bajo en el Cañón del Sumidero durante Semana Santa

Ceín Gutberto Escobar, presidente de lancheros, afirmó que durante la temporada vacacional de Semana Santa apenas alcanzaron el 25 por ciento de la afluencia turística en los recorridos al Cañón del Sumidero

Local

IEPC espera seguridad para elecciones extraordinarias en tres municipios de Chiapas

El Instituto de Elecciones y Participación Ciudadana (IEPC) espera que haya garantías en seguridad para el desarrollo del proceso electoral local extraordinario en los municipios de Chicomuselo, Pantelhó y Capitán Luis Ángel Vidal

Policiaca

Automovilista atropella a una familia en San Cristóbal

Conductor de un vehículo de color gris, atropelló a una familia que viajaban en una motocicleta ocurrido en el lado poniente de San Cristóbal de las Casas

Local

REC destaca beneficios del Tren Maya en Chiapas durante mañanera de AMLO

En la mañanera de AMLO este 15 de julio, el gobernador Rutilio Escandón Cadenas destacó los beneficios significativos que ha traído el Tren Maya al estado de Chiapas

Local

Berenice García representará a Chiapas en el Campeonato Nacional de Cafés Filtrados

La participación de Berenice García en el Campeonato Nacional de Cafés Filtrados es un motivo de orgullo para Chiapas

Local

Feminicidios en Chiapas suben a pesar de la Alerta por Violencia de Género

Es importante destacar que estas cifras son alarmantes y reflejan una situación de emergencia en cuanto a la seguridad y protección de las mujeres en Chiapas