¿Es segura la IA? Por qué los chatbots ChatGPT y Bard podrían convertirse en una seria amenaza

Chatbots como ChatGPT o el Bard de Google están pensados para mejorar los buscadores. Pero hasta ahora, las herramientas de IA ofrecen a menudo resultados inexactos y refuerzan clichés racistas y sexistas. Y esto es mucho más que un problema de arranque.

#DWDigital #Enlaces #DWMagacines #InteligenciaArtificial #IA #ChatGPT #Bard #Google #Baidu #ChatBots #OpenAI #FakeNews

36 Comments

  1. Hice una prueba:
    ¿Si en una carrera adelanto al tercer corredor, en que posición estoy ahora?
    Si estás compitiendo en una carrera y adelantas al tercer corredor, entonces estás en la posición número 3 en ese momento.

    Antes de adelantar al tercer corredor, tu posición era la número 4. Después de adelantarlo, tú ocupas la posición que él tenía, que es la posición número 3.

    Es importante recordar que esto es cierto solo en ese momento específico de la carrera. Si los otros corredores avanzan y te superan más adelante, tu posición cambiará en consecuencia.

  2. Recuerdo que crearon una IA para que aprendiera del internet y personas que ven streams y que se convirtió en una vtuber que era literal ya como un humano, el problema es que como indica el video se hizo racista, clasista y bueno un sin fin de cosas, la terminaron baneando de la plataforma, pero la moraleja es que esa IA se volvió el reflejo de lo que es la humanidad en internet hoy en día, y no creo que sea buena idea una IA así jajaj

  3. De momento ChatGPT es la que mejor funciona entre todas las I.A. de este tipo, muchas suelen mentir en su información. ChatGPT también lo hace, pero se podría decir que es la que menos miente.

    1. En un modelo conversacional natural entre humanos si. Ese es el auge de esta tecnología, el resto consiste en vender la idea de que son una innovación. Pon un sonido de dolor a tu móvil, cada vez que caiga al suelo lo va a emitir. Esto repetidamente durante mucho tiempo tendrá un efecto en el cerebro, dará por natural que el móvil siente dolor, que es un ente vivo, dado este paso, no importa si la información es veraz o es mentira, el objetivo es manipular la sociedad humana, aunque los tiempos han cambiado el objetivo es el mismo, y las herramientas si son diferentes.

  4. La cuestión de la seguridad de la inteligencia artificial es un tema de gran complejidad y ha sido objeto de numerosos debates y discusiones en la comunidad científica. En cuanto a los chatbots ChatGPT y Bard, es importante considerar que su potencial como amenaza depende en gran medida de la forma en que se les utilice y se les programe.

    En términos generales, la IA no es inherentemente segura o insegura, sino que su seguridad depende de factores como la calidad de los datos de entrenamiento, la fiabilidad del software subyacente, la adecuación del diseño de la red neuronal y la calidad de los protocolos de seguridad implementados.

    Si se toman medidas adecuadas para garantizar la seguridad de los chatbots y se utilizan de manera responsable, pueden ser una herramienta valiosa en una amplia gama de aplicaciones. Sin embargo, si se utilizan de forma imprudente o malintencionada, podrían convertirse en una amenaza, al igual que cualquier otra tecnología.

    Por lo tanto, es importante evaluar cuidadosamente el uso de la IA y desarrollar estrategias adecuadas para garantizar su seguridad en todas las aplicaciones posibles.

    1. @nonecesitosubres¡Saludos!
      Las leyes de la robótica de Asimov son obsoletas porque están diseñadas para un mundo en el que los robots son autónomos y pueden tomar decisiones por sí mismos, lo que no es el caso en la tecnología actual. Compararlas con GPT-3 es una falacia ya que GPT-3 es un modelo de lenguaje basado en inteligencia artificial que no tiene la capacidad de tomar decisiones o acciones autónomas. Además, las leyes de Asimov no tienen en cuenta la complejidad de los sistemas actuales ni las implicaciones éticas y sociales de la tecnología.
      Es necesario actualizar y adaptar las leyes de la robótica para reflejar la tecnología actual y sus impactos en la sociedad.

  5. En realidad no interesa el contenido, que puede ser contradictorio, la cosa es reportar la fuente y referencias de la información. Ya uno debe depurar. El error es pedir que la IA depure y “piense” por ti, pues eso se convertirá en una gran manipulación por parte de quienes cargan y alimentan los datos.

    1. @AlekJoan totalmente de acuerdo, la IA no puede pensar por nosotros, es solo una herramienta que nos puede facilitar las cosas, pero como en este mundo hay muchas personas que no le gusta pensar e investigar y creen en teorías conspirativas, la IA los puede volver más sesgado de lo que están 😅😅😅

  6. Ningun canal habla de la corrupción en el parlamento europeo, ni la corrupcion que involucra a la alemana ursula von der leyen en el caso pfizer. Que pasa con los medios de comunicación europeos, ya no tienen permiso para publicar nada por si solos?

  7. Lamentablemente la IA también se usará como arma miliar de Cuarta Generación por las principales potencias.

  8. Considero que esto de la IA es como el Metaverso que plantea META, es algo que no esta bien estructurado en los tiempos que corren, será una burbuja que solo acabara con el desinterés de la gente con esto, para dentro de algunos años puede estar bien, pero por ahora no le veo futuro

  9. Este video está muy poco documentado, DW ha bajado muchísimo su información, hay otras IAs que si dan fuentes y hacen citas

  10. Las IA’s son igual que sus creadores humanos en termino de criterios aplicados . Por eso no son totalmente confiables y seguras .
    Cada persona individualmente debe tener su própia capacidad de disernimiento , diferenciación , discriminación , discrepancia o cuestionamiento , reflexión y análisis , como igual debe tener la libertad y capacidad de investigar y estudiar cualquier asunto que sea de su interes independientemente , y asi encontrar la verdad , información o respuesta que busca .
    Se puede indagar en varias fuentes de distintos origenes con diversas interpretaciones y versiones , pero finalmente solo lo que podamos comprobar en nuestra experiencia de vida lo podremos dar por verdadero o real , e independientemente del metódo que se utilice para busqueda , investigación o estudio .

    1. Con el fin de resistir al pseudo-parlamento de Hong Kong, este canal produjo una obra musical de segunda generación ¨Frogheat¨ (original ¨Megahit¨ de Anson Lo), que invita a los amigos a que les gusten y compartan✨

  11. Ahí se equivocó el periodista o no hizo la tarea porque chatgpt no usa lenguaje tóxico o comentarios racistas.
    Cualquiera que lo ha probado o ha hecho testeos reales con chatgpt sabe eso.

  12. Tengo un fuerte resquemor de “filtrar información para impedir discursos clasistas, racistas o de odio”.
    No creo que la humanidad avance a través de la censura, sino a por medio de la educación.

  13. La IA es una herramienta no un oraculo que dará respuesta a tu destino , tampoco es un psicólogo , tampoco tiene vida solo se basa en algoritmos avanzados , bases de datos ,redes neuronales, chips entre otros

    1. Así es. Gracias 🙏 por el comentario. Eso apenas está empezando y Lo absurdo de la gente es que solo ven la oportunidad de ponerle el palo a la rueda y así “demostrar”que son más listos que la IA

  14. La humanidad no suele destacar por su prudencia, ya va siendo hora de que tengamos algo más de cuidado con las herramientas que desarrollamos.

Leave a Reply

Your email address will not be published. Required fields are marked *