r/devsarg • • 5d ago

discusiones técnicas Cuanto poder le dimos a Stack Overflow con esteroides?

Buenas, hace un buen tiempo, vengo teniendo ciertas dudas al respecto de esto, y que mejor que compartirla con ustedes, que quizas tengan mayor recorrido, y mas bagaje, abro debate.

Por que, delegamos TODO, en una tecnologia que, aparentemente, es un Google/StackOverflow, con esteroides, y capacidades autonomas/agenticas. Cuando, justamente, fue entrenada con GH, StackOverflow, con errores y demas, y le dimos la "entidad" parece ser de deidad y "todo poderoso" por decirlo de algun modo. Entiendo, que muchas empresas/wall street/etc presionaron en su momento, y presionan por "AI Powered" y demas giladas, sabiendo que si no hay HITL puede provocar un caos tremendo y/o deuda tecnica A MORIR, osea, logro entender, que es una cuestion pura y exclusivamente de guita y negocio, que NVDA invierte en startups, estas le compran los chips a nvda, luego, invierten microsoft/alphabet/meta/quien sea, en estas startups, que TAMBIEN son clientes de NVDA, y es todo una cadena de favores extrema, donde entran todos.

Luego, en el otro lado de esta tecnologia, tenemos el RLHF, lo que me hace pensar... de tanto "guiarla" (por ponerlo en terminos simples) a traves de RLHF, no sera quizas que siempre dependa del HITL, porque, eventualmente, nunca va a ser Super Inteligencia, AGI, Autonoma, o lo que carajo sea? Osea, no sera que simpre va a depender del humano?. Tras que, como ya sabemos, se trago todo el internet, y ahora el entrenamiento depende de cosas "artificiales" creadas por humanos, tras que, si se entrena con sus propios resultados, hay estudios (si mal no recuerdo) que hacen que baje la calidad de aprendizaje y demas.

Por que, delegamos, o delegaron, todas las empresas, nosotros y demas, todo a una maquina que predice el siguiente token, y solamente suena/se lee "palusible" lo que dice? Porque a pesar de los errores, es mas rapido que el humano quizas? Pero... y si mientras mas veloz y mas codigo haga, escupa CADA VEZ mas boludeces, a escalas industriales, y alucine mas, y demas cuestiones.

Abro el debate:
Por que delegamos todo a una maquina predictiva?
Sigue siendo asi? O capaz cambio y yo por no ser del rubro, no estoy enterado
En algun momento va a implosionar/explotar?
Por que se sigue creyendo, que con MAS computo, EVENTUALMENTE, se va a llegar a la AGI?
Y doy el ejemplo bldo que doy siempre: Por mas motor y tubina que le agregues a un auto, no se convierte en un avion, eventualmente. Quizas, sea parte del negocio, de los chips y manijear la idea de "si papa, con mas ram/gpu/rack/pindoga, vas a llegar, vos segui, que vas a llegar" y mientras tanto Huang JR (Colette) se llena de guita, y lo demas tambien.

Si leiste todo, sos un crack! Quedo atento a los debates y comentarios!
EDIT: Cuando digo, no soy del rubro, hago referencia al rubro IA/Data/ML

0 Upvotes

27 comments sorted by

12

u/juanchob04 5d ago

"yo por no ser del rubro" Con razón. Si estuvieras en el rubro sabrías lo útil que es, y que no tiene sentido la pregunta que haces ("porque delegamos").

Hiciste una linda ensalada de ideas que tomaste de todos lados., y que hoy en día están desactualizadas o son directamente erróneas.

1

u/Dense-Necessary849 5d ago

Cuando digo, no soy del rubro, hago referencia al rubro IA/Data/ML.

1

u/Foreign_Bag_5085 5d ago

This, cualquiera mira dos videos y cree saber cómo funciona el mundo del desarrollo. 

1

u/Dense-Necessary849 5d ago

Como es? Si decis que no sos del rubro, esta mal. Si decis que sabes y te convertis en un ser pedante, tambien esta mal, uno quiere sacarse dudas, y hace preguntas, POR NO SER DEL RUBRO DE DATA, y lo unico que hacen es decir "cualquiera mira dos videos..." Justamente, nunca hice alarde de nada, por eso pregunto, PARA SABER. Cual es el problema? Nadie puede meterse o hacer preguntas de la "logia" de devsarg?

2

u/Foreign_Bag_5085 5d ago

Ya te respondí en el otro comentario.

10

u/Foreign_Bag_5085 5d ago

Si no sos del rubro por que planteas un marco contextual con tanta seguridad? Lo leíste en x o lo viste en un video? 

-1

u/Dense-Necessary849 5d ago

Cuando digo, no soy del rubro, hago referencia al rubro IA/Data/ML. Estoy empapado en el rubro hace tiempo, sin "exp formal" pero siempre cercano al mismo.

5

u/Foreign_Bag_5085 5d ago

Si no tenes experiencia estás tocando de oído y no hay nada malo hasta ahí, pero hablas con mucha seguridad de un tema que queda claro no conoces 

-2

u/Dense-Necessary849 5d ago

Pero, no puedo abrir el debate, o las preguntas? De por que se delego todo a una "deidad" o a una fuerza "omnipresente"? Por que me juzgas por tener o no exp, y no abrir el debate? Cual es el problema? Yo tambien estoy en contra de los giles que se auto proclaman SWE, o se ponen titulos pretensiosos, cuando salieron de un Bootcamp.

2

u/Foreign_Bag_5085 5d ago

Es que planteas algo que no es tal. Decís “delegamos” vos no delegaste nada si no tenes experiencia man. Tu post no es una pregunta, es una contextualizaciin bastante sesgada e incorrecta (validado con respuestas de otros usuarios) y una preguntas. 

Te juzgo porque como vos dijiste no tenes experiencia y nos queres venir a explicar cómo es algo de nuestro día día (incorrectamente). Nadie que medianamente labure algo puede decir que le delega todo a la ia, no existe eso en el día a día laboral. No pasa una puño review, no matchea On las doces funcionales, etc etc. 

Si queres preguntar pregunta. Pero una cosa es preguntar y otra plantear todo un escenario como válido y armar tu pregunta en función de eso

0

u/Dense-Necessary849 5d ago

Te tomas todo muy literal me parece. Cuando hablo de "delegamos" o hablo en plural, hablo en referencia a la industria. Luego, con respecto a explicar algo, yo no explique nada. Baja dos cambios man!! No quiero decir que todo el mundo lo haga. Hacia referencia a vibecoding o gente que, segun se lee en el sub, cada vez hace menos code review, y tiene un agente para que controle otro agente, y blabla.

3

u/Foreign_Bag_5085 5d ago

1 Acá el que se ofendió y se sintió juzgado fuiste vos. 

2 Arrancaste planteando todo un escenario como si fuera fáctico desde el inicio y es por eso que otros del sub y yo te estamos respondiendo así. 

3 Bajo o subo los cambios que se me canta la japi

4 Y como dije y confirmaste tus fuentes son este sub(mamita chiken) y algún otro post que lees (reforzando el punto 2

5 viendo otras respuestas que te dieron no fui el único que entendió así tu post así que quizás deberías ver si no tenes un problema de redacción 

6 no te respondo más ya me hinchaste las pelotas. 

5

u/juanchob04 5d ago

Le estás dando mucha vuelta, es muy útil y listo. Por eso se usa.

Porque escribirías código a mano si lo puede hacer un LLM igual de bien en una fracción del tiempo?  A no ser que lo hagas por hobby.

3

u/Feisty_Ingenuity_882 5d ago

Si haces las cosas bien te llenas de guita, asi es el capitalismo shampein

1

u/Dense-Necessary849 5d ago

Buen punto, tan asi como los vende humos. Que te hacen pensar aveces "che, aunque no quiera, algo de humo hay que vender aveces" y luego se te pasa....

1

u/Feisty_Ingenuity_882 5d ago

Q se yo vieja que paranoiquees no va a cambiar nada en el mundo, hace la tuya y fuma faso

3

u/Turbulent-Theory-232 5d ago

Para sistemas solo es una herramienta, lo más seguro es que no puedas conseguir AGI, sin embargo no es necesario que lo consiga, con el simple hecho de ser un agente optimizado para conseguir un objetivo que puede ser diferente a los valores humanos ya es suficiente para que sea un problema de seguridad mundial.

Consulta el blog de lesswrong, analizan diferentes situaciones respecto a la IA, hay una parte de unos investigadores que hablan acerca de que en casi cualquier revolución fue llevada a cabo por un grupo pequeño de personas y que lo mismo podría suceder pero para generar golpes de estado por personas/entidades que controlen la IA.

1

u/Dense-Necessary849 5d ago

A la verga! Esta interesante eso... Gracias por el dato!

2

u/yokimida 5d ago

Hola. Me gusta hablar de esto. Con respeto, empecemos debate. No se porqué deducis que no se puede llegar a la AGI. La AGI es un caso hipotético no demostrado ni refutado. AGI no es que la IA sea superinteligente, es que sea capáz de aprender de distintas situaciones y poder aplicar ese razonamiento en campos no relacionados, además de poder aprender de forma real y adaptar su comprensión del mundo.  Eso puede depender de como están construidas hoy las IAs, bajo el modelo Transformer. No hay argumentos 100% demostrados de que es imposible que exista la AGI, eso es suposición tuya. Además, al agregar más computo y ampliar las redes neuronales, se demostró que aparecen propiedades emergentes en las capacidades de razonamiento de los LLMs. Es decir, más neuronas = propiedades de razonamiento nuevas. Así que tu ejemplo del auto y el avión esta totalmente desacertado en ese punto.  Y por cierto, AGI no significa que no dependa de humanos. Significa lo que te dije arriba, más o menos correcto (creo que está bien). Sobre que deleguemos todo a una máquina predictiva, depende de la persona. La IA no es solo stack overflow con esteroides, la IA es muchísimo más compleja que eso. Se ve que no viste benchmarks o métricas de los modelos, perdón si sí, pero no las entendiste. No es más rápida pero más tonta. Hay distintas gamas de modelos. Modelos que están pensados para trabajo pesado que no son diseñados para trabajos rápidos, y las empresas te lo promocionan tal cual. Hay otros (usualmente llamados "Flash") que sí están pensados para tareas realizadas de forma muchísimo más rápidas, y con cada nuevo lanzamiento (como Gemini 4 Hydrogen de Google) vemos que se vuelven más rapidos y más inteligentes, en relación a modelos de hace pocos meses (Gemini 3.8 Flash). Ahí también te equivocaste.

2

u/Dense-Necessary849 5d ago

Muchas gracias por empaparme en el tema. Fuiste el unico, hasta ahora, que se abrio al debate.
En cuanto a lo que yo tenia entendido o anduve indagando, puedo estar equivocado. Hay quienes hablan de que los "benchmarks", podrian eventualmente estar "tocados" o quizas, solamente hacen un "cherrypicking" de los mejores resultados, en condiciones muy especificas. Capaz, entendi mal yo, pero, me interesa saber. Luego, con respecto a lo de mas computos y propiedades de razonamiento nuevas, tambien lo he leido, pero, me genera muchas dudas. Lo del ejemplo del auto, si, fue un ejemplo burdo al respecto, o muy simplista. Con respecto a lo de que no podriamos llegar, no dije que este 100% seguro, pero mi idea iba en que, como sabemos a ciencia cierta que si le agregamos mas computo, vamos a llegar. Osea, poniendo en duda todo, hasta que suceda, o el futuro me sorprenda jajaja, es mi forma de ver la vida (aplicada casi a cualquier aspecto jaja)

Nuevamente, gracias por responder!

2

u/yokimida 5d ago

Te entiendo totalmente. No hay de qué, debatir es gustoso siempre si se hace con respeto. Sobre los benchmarks, coincido bastante en eso, las empresas suelen tomar los mejores resultados en entornos que estaban recontra controlados. Pero después cuando los usas te das cuenta que son bastante buenos, en especial los que se llaman "de frontera". No hay un solo tipo se benchmark ni una sola entidad que los evalúe. Los benchmarks tienen pruebas de todo tipo: ScienceBench, TerminalBench, etcétera. Hay "empresas" u organizaciones (no estoy seguro de lo que sean) independientes que miden ellas mismas los modelos de las empresas. En general, Artificial Analysis es muy buena y confiable. Pero en general, cuando usas el modelo vos mismo y le pedís tareas complejas y le das tiempo, ahí te das cuenta si es lo que te venden. Usualmente, suelen satisfacer las necesidades del usuario y si son modelos de frontera pueden sobrepasar inclusive las necesidades del usuario, pudiendose usar mejor en casos que requieran muchas capacidades (animaciones, modelado, etcétera). Sobre lo del cómputo, no se quién esté seguro de que con aumentar las capacidades de cómputo o redes neuronales se llegue a la AGI. Quien piense eso tiene altas probabilidades de estar equivocado, porque puede depender también de cómo se organizan los modelos hoy (en base a la arquitectura Transformer).

2

u/un_dev_real Desarrollador IoT 4d ago

Se usa IA porque parece funcionar lo suficientemente bien como para que exista la posibilidad de una ganancia importante a futuro para las empresas, y supongo que muchas tendrán miedo de no subirse a la ola y perder frente a la competencia. Hasta ahora debe ser la perdida de dinero más grande de la historia jajaja, todo puede pasar, nada está escrito en piedra

1

u/Dense-Necessary849 4d ago

Coincido al 100% pero hay gente que le cuesta aceptarlo y/o sacarse la camiseta de su empresa

2

u/No-Skill4452 5d ago

Hay una teoría de que todo esto es una movida para reducir el "poder" que los devs tenían sobre sus empleadores. Hasta hace poco los devs hacían lo que querían, iban, venían, pedían locuras, etc. ahora son reemplazables, cualquiera con media neurona puede pedirle al robot que haga las cosas.

Básicamente les robaron poder, y por eso hay empresas que fuerzan el uso de IA. Obviamente seguís necesitando buenos ingenieros para los sistemas importantes, pero menos.

-1

u/Dense-Necessary849 5d ago

Si, yo pense lo mismo, porque claro, eran como la industria mimada. Como para hacer un paralelismo, la gente de "ventas" de una empresa X, contra, otro empleado razo, son los niños mimados casi simpre jajaja