Unstructured-IO / Unstructured-IO/unstructured-python-client

Problem in using unstructured workflows

Abierto
#254 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Nadie ha tomado este issue todavía.

Lenguaje dominante
Python
Estrellas
119
Forks
22
Merge medio
1 d 21 h
PR fusionados (30 d)
1

Descripción

Hi!
I am developing an ETL pipeline using restate and Unstructured, using python. I have the following problem:

  • I do not want to use Partition Endpoint because I also need the enrichment step.
  • Using a workflow, I noticed that if a second user requests to process a document while the first one is still processing, there are two possible cases:
      1. the second request is quite close to the first (i.e., the first initiated job is still reading files from the source (in my case a folder on S3))
      1. the second request occurs during a later stage of the job: in this case the request is lost (a request consists of loading a new file into the source folder of S3 and then starting the workflow)

Since the first case is also problematic (if multiple users upload files almost simultaneously they will have to wait for all files to be processed before seeing their output, since unstructured first processes and then saves everything together), I came up with this solution:

  • When a new request comes in, I create a source folder on S3, specific to that request.
  • I create and start a workflow specific to that request, which I then destroy when finished
    This way there should be no problem, do you have any better suggestions?

Guía de contribución

Abrir la guía de contribución

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Línea de trabajo

No se han identificado archivos ni pruebas del repositorio. Comienza revisando el punto de entrada del workflow y el comportamiento de las solicitudes concurrentes descrito para el procesamiento basado en S3; después, aclara el tratamiento esperado de las solicitudes que llegan durante cada etapa del workflow. El trabajo estará terminado cuando exista una resolución acordada y reproducible para las cargas y las ejecuciones del workflow que se solapan.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
aws, python
Área
backend, cloud
Tipo de issue
Error
Dificultad
5/5
Tiempo estimado
Más de una semana
Estado de actividad
Estancado
Claridad
Necesita aclaración
Aptitud para principiantes
25/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.