Json inference of multiple files is brittle

Currently, we run the inference on a per file basis, and limit the number of records over all files. This means that if the first file has 1000 entries and the second 1000, and we run the inference with a max of 1000 rows, the whole inference will be based on the first file alone.

IMO we should distribute the rows at least evenly with the number of files we are inferring. In the case above, this would correspond to 500 lines for each file.

En el issue no se menciona ningún archivo ni ninguna prueba. Empieza localizando el punto de entrada de la inferencia JSON por archivo y las pruebas que cubren el límite máximo de filas; se considera terminado cuando la inferencia distribuye el límite entre varios archivos en lugar de consumirlo únicamente del primer archivo.

Escrito por el modelo de indexación a partir del texto del issue.