OpenAI establece un comité de seguridad independiente para vigilar sus modelos de IA

Forbes México.
OpenAI establece un comité de seguridad independiente para vigilar sus modelos de IA

OpenAI, respaldada por Microsoft, declaró que su comité de seguridad supervisará los procesos de protección para el desarrollo e implementación del modelo de inteligencia artificial (IA) de la compañía, como un organismo independiente.

OpenAI, la empresa detrás del chatbot viral ChatGPT, formó su Comité de Seguridad y Protección en mayo para evaluar y desarrollar aún más las prácticas existentes de la empresa.

El lanzamiento de ChatGPT a fines de 2022 provocó una importante ola de interés y entusiasmo en torno a la IA.

El revuelo en torno al chatbot destacó tanto las oportunidades como los desafíos de la IA, lo que provocó debates sobre el uso ético y los posibles sesgos.

Como parte de las recomendaciones del comité, OpenAI dijo que está evaluando el desarrollo de un “Centro de análisis e intercambio de información (ISAC) para la industria de la IA, para permitir el intercambio de inteligencia sobre amenazas e información de ciberseguridad entre entidades dentro del sector de la IA”.

Te recomendamos: OpenAI busca recaudar fondos con valoración de 150,000 mdd para fortalecer estatus entre empresas de IA

Comité de seguridad buscará obtener información de los equipos de operaciones

El comité independiente estará presidido por Zico Kolter, profesor y director del departamento de aprendizaje automático de la Universidad Carnegie Mellon, que forma parte de la junta directiva de OpenAI.

“Estamos buscando una segmentación de información interna ampliada y personal adicional para profundizar los equipos de operaciones de seguridad las 24 horas”, según OpenAI.

La empresa también dijo que trabajará para ser más transparente sobre las capacidades y los riesgos de sus modelos de IA.

El mes pasado, OpenAI firmó un acuerdo con el gobierno de los Estados Unidos para la investigación, prueba y evaluación de los modelos de IA de la empresa.

Con información de Reuters.

Suscríbete a nuestro canal de YouTube y no te pierdas de nuestro contenido

OpenAI establece un comité de seguridad independiente para vigilar sus modelos de IA
Forbes Staff

from Forbes México https://ift.tt/ARvUOzW
via Forbes Mexico captado por Autecno Blog Captador de Noticias Zebra Mexico

Comentarios

Entradas Populares en Zebra México

Cuándo podrás instalar HyperOS, el nuevo sistema de Xiaomi, en tu móvil

Xiaomi ha anunciado una novedad muy importante en cuanto a software: la llegada de HyperOS, su nuevo sistema que permitirá una conexión completa entre dispositivos de más de 200 categorías de productos, incluyendo el coche eléctrico que la marca podría anunciar el próximo año. Este nuevo sistema operativo, además, reemplazará a MIUI en algunos de […] Seguir leyendo: Cuándo podrás instalar HyperOS, el nuevo sistema de Xiaomi, en tu móvil from Hipertextual https://bit.ly/3tw9ZV7 Noticia captada en HiperTextual por AUTECNO

La demolición del mayor complejo de presas del mundo ha comenzado. Su polémico objetivo: resucitar a un río

El río Klamath, de alrededor de 423 km, discurre por el norte del estado de California y desemboca en el océano Pacífico. Abarca nada menos que cinco bosques nacionales y siete condados en dos estados. En uno de los tramos del río, en la frontera entre California y Oregón, una compañía eléctrica comenzó en 1918 a operar una represas hidroeléctrica para dar electricidad a las ciudades, granjas y minas de ambos estados. Esta represa (que se extendió a otras cuatro más conforme los años pasaron) es la más grande del mundo. Pero llegó con inconvenientes para los locales . Perjudicó a las aldeas del pueblo indio de Shasta, bloqueó los canales de salmón y convirtió el agua del río en una mezcla de algas, lo que generó décadas de activismo por parte los conservacionistas. De hecho, las represas no se construyeron para almacenar agua para beber, regar o detener inundaciones. Generaron electricidad para PacifiCorp, una subsidiaria de Berkshire Hathaway Energy de Warren Buffett, y produjero

Los Google Pixel 8 se preparan para la mayor subida de precio de su historia, según filtraciones

Google, en los últimos años, se ha caracterizado por lograr algo que pocos fabricantes estaban consiguiendo en el terreno de la gama alta: ofrecer productos de primer nivel a precio contenido . En tiempos en los que se han democratizado los 1.200 (o hasta 1.500 euros) por un gama alta, los Pixel se mantenían por debajo de los 900 euros en el caso del modelo 7 Pro , y tan solo 649 en el caso del Pixel 7 . Según los últimos rumores , esta tradición de gama alta "económica" está a punto de acabarse . Los Pixel se preparan para la mayor subida en los últimos años , sobrepasando holgadamente la barrera de los 1.000 euros en el caso del modelo más caro y arañándolos en el modelo estándar. El próximo 4 de octubre conoceremos a los Google Pixel 8 y Google Pixel 8 Pro, los dos gama alta de Google para este curso y 2024. Ya se ha filtrado su diseño , conocemos prácticamente todas sus especificaciones y, el último dato al respecto, tiene que ver con el precio. En Xataka Andro

Huracán Norma afecta a más de 109 mil usuarios de CFE en BCS

Forbes México . Huracán Norma afecta a más de 109 mil usuarios de CFE en BCS Un total de 109 mil 209 clientes de CFE en Baja California habían sido afectados por Norma antes de que el huracán tocara tierra este sábado. La empresa estatal reportó en un comunicado que había recuperado el suministro eléctrico al 44% de los usuarios afectados, quienes representan el 30% de los más de 383 mil usuarios totales en la entidad. CFE dijo que su personal realiza el restablecimiento de la energía donde las condiciones climáticas lo permiten. Agregó que para la atención de la emergencia se dispusieron en Baja California Sur y Sinaloa: 667 electricistas, 366 grúas, 103 vehículos, 64 plantas de emergencia, 6 torres de iluminación y dos helicópteros. Lee: Huracán Norma toca tierra en Baja California Sur A las 11:00 horas, el centro de Norma impactó al sur del poblado de Todos Santos, municipio de La Paz, Baja California Sur, como huracán categoría 2, informó el Servicio Meteorológico Nacional.

Benefician a accionistas minoritarios de Cox Energy con integración de Abengoa, ahora Coxabengoa

Forbes México . Benefician a accionistas minoritarios de Cox Energy con integración de Abengoa, ahora Coxabengoa Cox Energy informó este jueves que comenzó la integración de los activos de energía de Abengoa, que a partir de ahora se llamará Coxabengoa, en el proceso de reordenación de los negocios del grupo que se realiza desde abril y que uno de los objetivos de ello es generar un mayor valor para los accionistas de la empresa y adelantar el plan estratégico. “ Uno de los objetivos de la integración es el de generar un mayor valor para los accionistas de Cox Energy y el de adelantar el plan estratégico. Esta operación supondrá un impacto positivo de aproximadamente 60 millones de euros en patrimonio neto de la sociedad cotizada, así como la previsión de que aporten un Ebitda recurrente aproximado de 50 millones de euros además de integrar nuevos mercados y tecnologías”, detalló Cox Energy en un comunicado. Entre estos activos, explicó la empresa, destaca la unidad productiva de

Los mejores programas para tomar apuntes bonitos, organizados y sencillos

Te traemos una colección de 17 programas para tomar apuntes bonitos , organizados y sencillos, ya sea a mano o con el teclado de tu ordenador. Ahora que empieza el curso escolar, estas soluciones te ayudarán a poder mantener tus apuntes organizados, limpios y sincronizados. Vamos a ofrecerte esta lista organizada por orden alfabético. En cada uno de ellos te daremos un enlace a su web oficial, donde podrás encontrar sus aplicaciones para los distintos sistemas operativos. Hay de todo, con algunas herramientas gratuitas y otras de pago. Y como decimos siempre en Xataka Basics, si consideras que nos hemos dejado fuera de la lista alguna alternativa importante, te invitamos a dejar tus sugerencias en la sección de comentarios . Así, todos los lectores podrán beneficiarse de los comentarios de nuestros xatakeros. Evernote Evernote es una de las primeras grandes aplicaciones surgidas para crear notas que se mantienen sincronizadas entre tus dispositivos. Tiene un cliente w

Buscar este blog