Internal server error for role orders in LLM inference

Hi,

I am getting 500s with description

chat messages must alternate roles between 'user' and 'assistant'.  Message may have a leading 'system' role message

and

"Internal Server Error\",\"status\":500,\"detail\":\"Last message role should be 'user'

I think this order validation is unnecessary. Most of the models (e.g. mixtrals, llama3, gemma etc) are perfectly fine with any order of roles. This claim can be validated on groq's playground: https://console.groq.com/playground

This issue currently breaks some existing patterns, like continuations (without the user explicitly saying "continue") or in some cases running agents with observations etc.

Commencez par suivre la validation qui produit les erreurs citées concernant l’ordre des rôles et le dernier message, puis reproduisez une requête avec des messages de continuation ou d’observation de l’agent. Le travail est terminé lorsque les séquences de rôles non alternées prises en charge ne renvoient plus HTTP 500 et que le comportement de validation attendu reste couvert.