Home-theater-designers
Con millones de usuarios de ChatGPT, es posible que se pregunte qué hace OpenAI con todas sus conversaciones. ¿Analiza constantemente las cosas de las que hablas con ChatGPT?
La respuesta a eso es sí, ChatGPT aprende de la entrada del usuario, pero no de la forma en que la mayoría de la gente piensa. Aquí hay una guía detallada que explica por qué ChatGPT rastrea las conversaciones, cómo las usa y si su seguridad está comprometida.
MAKEUSEOF VÍDEO DEL DÍA DESPLAZAR PARA CONTINUAR CON EL CONTENIDO
¿ChatGPT recuerda las conversaciones?
ChatGPT no acepta las indicaciones al pie de la letra. Utiliza la memoria contextual para recordar y hacer referencia a entradas anteriores, asegurando respuestas relevantes y consistentes.
Tome la siguiente conversación como ejemplo. Cuando le preguntamos a ChatGPT por ideas de recetas, consideró nuestro mensaje anterior sobre las alergias al maní.
Aquí está la receta segura de ChatGPT.
La memoria contextual también permite que la IA ejecute tareas de varios pasos. La imagen a continuación muestra que ChatGPT permanece en el personaje incluso después de enviarle un nuevo aviso.
lista de solicitudes de comando para Windows 10
ChatGPT puede recordar docenas de instrucciones dentro de las conversaciones. Su salida en realidad mejora en exactitud y precisión a medida que proporciona más contexto. Solo asegúrese de explicar sus instrucciones explícitamente.
También debe administrar sus expectativas porque la memoria contextual de ChatGPT aún tiene limitaciones.
Las conversaciones de ChatGPT tienen capacidades de memoria limitadas
La memoria contextual es finita. ChatGPT tiene recursos de hardware limitados, por lo que solo recuerda puntos específicos de las conversaciones actuales. La plataforma olvida las indicaciones anteriores una vez que alcanza su capacidad de memoria.
En esta conversación, le dimos instrucciones a ChatGPT para que interpretara a un personaje ficticio llamado Tomie.
Comenzó a responder a las indicaciones como Tomie, no como ChatGPT.
Aunque nuestra solicitud funcionó, ChatGPT rompió el carácter después de recibir un aviso de 1000 palabras.
OpenAI nunca ha revelado los límites exactos de ChatGPT, pero los rumores dicen que solo puede procesar 3000 palabras a la vez. En nuestro experimento, ChatGPT no funcionó correctamente después de más de 2800 palabras.
Puede dividir sus indicaciones en dos conjuntos de 1500 palabras, pero es probable que ChatGPT no retenga todas sus instrucciones. Simplemente comience otro chat por completo. De lo contrario, tendrás que repetir detalles específicos varias veces durante la conversación.
ChatGPT solo recuerda las entradas relevantes para el tema
ChatGPT utiliza la memoria contextual para mejorar la precisión de salida. No solo retiene información por el simple hecho de recopilarla. La plataforma olvida casi automáticamente los detalles irrelevantes, incluso si está lejos de alcanzar el límite de fichas.
En la imagen de abajo, tratamos de confundir la IA con varias instrucciones incoherentes e irrelevantes.
Mantuvimos nuestras entradas combinadas por debajo de las 100 palabras, pero ChatGPT aún olvidó nuestra primera instrucción. Rápidamente rompió el carácter.
Mientras tanto, ChatGPT siguió jugando durante esta conversación porque solo hicimos preguntas relacionadas con el tema.
Idealmente, cada diálogo debe seguir un tema singular para mantener resultados precisos y relevantes. Todavía puede ingresar varias instrucciones simultáneamente. Solo asegúrese de que se alineen con el tema general, de lo contrario, ChatGPT podría dejar caer instrucciones que considere irrelevantes.
Las instrucciones de capacitación dominan la entrada del usuario
ChatGPT siempre priorizará las instrucciones predeterminadas sobre las entradas generadas por el usuario. Detiene actividades ilícitas a través de restricciones. La plataforma rechaza cualquier indicación que considere peligrosa o dañina para los demás.
Tome las solicitudes de juegos de roles como ejemplos. Aunque anulan ciertas limitaciones de lenguaje y redacción, no puede usarlos para cometer actividades ilícitas.
Por supuesto, no todas las restricciones son razonables. Si las pautas rígidas dificultan la ejecución de tareas específicas, siga reescribiendo sus indicaciones. La elección de palabras y el tono afectan en gran medida los resultados. Puedes inspirarte en los más indicaciones efectivas y detalladas en GitHub .
¿Cómo estudia OpenAI las conversaciones de los usuarios?
La memoria contextual solo se aplica a su conversación actual. La arquitectura sin estado de ChatGPT trata las conversaciones como instancias independientes; no puede hacer referencia a la información de los anteriores. Iniciar nuevos chats siempre restablece el estado del modelo.
Esto no quiere decir que ChatGPT descargue las conversaciones de los usuarios al instante. Condiciones de uso de OpenAI afirma que la empresa recopila información de servicios de consumo que no son API, como ChatGPT y Dall-E. Incluso puede solicitar copias de su historial de chat.
cómo usar un controlador xbox one en mac
Mientras ChatGPT accede libremente a las conversaciones, Política de privacidad de OpenAI prohíbe actividades que puedan comprometer a los usuarios. Los entrenadores solo pueden usar sus datos para la investigación y el desarrollo de productos.
Los desarrolladores buscan lagunas
OpenAI filtra las conversaciones en busca de lagunas. Analiza instancias en las que ChatGPT demuestra sesgos de datos, produce información dañina o ayuda a cometer actividades ilícitas. Las pautas éticas de la plataforma se renuevan constantemente.
Por ejemplo, las primeras versiones de ChatGPT respondió abiertamente preguntas sobre la codificación de malware o la construcción de explosivos. Estos incidentes hicieron que los usuarios se sintieran como OpenAI has no control over ChatGPT . Para recuperar la confianza del público, entrenó al chatbot para que rechazara cualquier pregunta que pudiera ir en contra de sus pautas.
Los entrenadores recopilan y analizan datos
ChatGPT utiliza técnicas de aprendizaje supervisado. Aunque la plataforma recuerda todas las entradas, no aprende de ellas en tiempo real. Los entrenadores de OpenAI los recopilan y analizan primero. Al hacerlo, se asegura de que ChatGPT nunca absorba la información dañina y dañina que recibe.
El aprendizaje supervisado requiere más tiempo y energía que las técnicas no supervisadas. Sin embargo, dejar que la IA analice solo la entrada ya ha demostrado ser perjudicial.
Tome Microsoft Tay como ejemplo, uno de los veces que el aprendizaje automático salió mal . Dado que analizaba constantemente los tweets sin la guía del desarrollador, los usuarios maliciosos eventualmente lo entrenaron para escupir opiniones racistas y estereotipadas.
Los desarrolladores están constantemente atentos a los sesgos
Varios factores externos causan sesgos en la IA . Los prejuicios inconscientes pueden surgir de las diferencias en los modelos de entrenamiento, los errores en los conjuntos de datos y las restricciones mal construidas. Los verás en varias aplicaciones de IA.
cómo ordenar correos electrónicos en gmail
Afortunadamente, ChatGPT nunca ha demostrado prejuicios raciales o discriminatorios. Quizás el peor sesgo que han notado los usuarios es la inclinación de ChatGPT hacia las ideologías de izquierda, según un Correo de Nueva York informe. La plataforma escribe más abiertamente sobre temas liberales que conservadores.
Para resolver estos sesgos, OpenAI prohibió a ChatGPT proporcionar información política por completo. Sólo puede responder a hechos generales.
Los moderadores revisan el rendimiento de ChatGPT
Los usuarios pueden proporcionar comentarios sobre la salida de ChatGPT. Encontrará los botones de aprobación y aprobación en el lado derecho de cada respuesta. El primero indica una reacción positiva. Después de presionar el botón Me gusta o No me gusta, aparecerá una ventana en la que puede enviar comentarios con sus propias palabras.
El sistema de retroalimentación es útil. Solo dale a OpenAI algo de tiempo para revisar los comentarios. Millones de usuarios comentan en ChatGPT con regularidad; es probable que sus desarrolladores prioricen instancias graves de sesgos y generación de resultados dañinos.
¿Son seguras sus conversaciones de ChatGPT?
Teniendo en cuenta las políticas de privacidad de OpenAI, puede estar seguro de que sus datos permanecerán seguros. ChatGPT solo usa conversaciones para entrenamiento de datos. Sus desarrolladores estudian los conocimientos recopilados para mejorar la precisión y confiabilidad de los resultados, no para robar datos personales.
Dicho esto, ningún sistema de IA es perfecto. ChatGPT no está inherentemente sesgado, pero las personas malintencionadas aún podrían explotar sus vulnerabilidades, por ejemplo, errores en el conjunto de datos, capacitación descuidada y lagunas de seguridad. Para su protección, aprenda a combatir estos riesgos.