r/devsarg • u/Dense-Necessary849 • 47m ago
discusiones técnicas Cuanto poder le dimos a Stack Overflow con esteroides?
Buenas, hace un buen tiempo, vengo teniendo ciertas dudas al respecto de esto, y que mejor que compartirla con ustedes, que quizas tengan mayor recorrido, y mas bagaje, abro debate.
Por que, delegamos TODO, en una tecnologia que, aparentemente, es un Google/StackOverflow, con esteroides, y capacidades autonomas/agenticas. Cuando, justamente, fue entrenada con GH, StackOverflow, con errores y demas, y le dimos la "entidad" parece ser de deidad y "todo poderoso" por decirlo de algun modo. Entiendo, que muchas empresas/wall street/etc presionaron en su momento, y presionan por "AI Powered" y demas giladas, sabiendo que si no hay HITL puede provocar un caos tremendo y/o deuda tecnica A MORIR, osea, logro entender, que es una cuestion pura y exclusivamente de guita y negocio, que NVDA invierte en startups, estas le compran los chips a nvda, luego, invierten microsoft/alphabet/meta/quien sea, en estas startups, que TAMBIEN son clientes de NVDA, y es todo una cadena de favores extrema, donde entran todos.
Luego, en el otro lado de esta tecnologia, tenemos el RLHF, lo que me hace pensar... de tanto "guiarla" (por ponerlo en terminos simples) a traves de RLHF, no sera quizas que siempre dependa del HITL, porque, eventualmente, nunca va a ser Super Inteligencia, AGI, Autonoma, o lo que carajo sea? Osea, no sera que simpre va a depender del humano?. Tras que, como ya sabemos, se trago todo el internet, y ahora el entrenamiento depende de cosas "artificiales" creadas por humanos, tras que, si se entrena con sus propios resultados, hay estudios (si mal no recuerdo) que hacen que baje la calidad de aprendizaje y demas.
Por que, delegamos, o delegaron, todas las empresas, nosotros y demas, todo a una maquina que predice el siguiente token, y solamente suena/se lee "palusible" lo que dice? Porque a pesar de los errores, es mas rapido que el humano quizas? Pero... y si mientras mas veloz y mas codigo haga, escupa CADA VEZ mas boludeces, a escalas industriales, y alucine mas, y demas cuestiones.
Abro el debate:
Por que delegamos todo a una maquina predictiva?
Sigue siendo asi? O capaz cambio y yo por no ser del rubro, no estoy enterado
En algun momento va a implosionar/explotar?
Por que se sigue creyendo, que con MAS computo, EVENTUALMENTE, se va a llegar a la AGI?
Y doy el ejemplo bldo que doy siempre: Por mas motor y tubina que le agregues a un auto, no se convierte en un avion, eventualmente. Quizas, sea parte del negocio, de los chips y manijear la idea de "si papa, con mas ram/gpu/rack/pindoga, vas a llegar, vos segui, que vas a llegar" y mientras tanto Huang JR (Colette) se llena de guita, y lo demas tambien.
Si leiste todo, sos un crack! Quedo atento a los debates y comentarios!
EDIT: Cuando digo, no soy del rubro, hago referencia al rubro IA/Data/ML

