allenai/RL4LMs

Auf GitHub ansehen

A modular RL library to fine-tune language models to human preferences

Sterne: 2.4k
Forks: 201
Offene Anfänger-Issues: 0
Indexierte Issues: 47

Vorherrschende Sprache: Python
Lizenz: Apache-2.0
Letzter GitHub-Push: 30.3.2023
Zuletzt indexiert: 13.9.2026
Beitragsleitfaden: Kein Beitragsleitfaden
Verhaltenskodex: Kein Verhaltenskodex
Anfänger-Labels: good first issue help wanted
PR-Merge-Kennzahlen: Keine gemergten PRs in 30 T.

Offen Alle

Bisher 47 offene Issues indexiert

Any plans for Deepspeed/Accelerate integration? Offen

allenai/RL4LMs#4 · 9 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Numbeams Offen

beam_search bug

allenai/RL4LMs#5 · 5 Kommentare · 0 Reaktionen · 1 zugewiesene Person · Indexiert am 13.9.2026
Top-K and Top-p sampling Offen

allenai/RL4LMs#7 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
BART supervised Offen

allenai/RL4LMs#10 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
OOM on summarization example Offen

allenai/RL4LMs#12 · 15 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
100% likely that two function parameters have been merged by accident Offen

code enhancement good first issue

allenai/RL4LMs#16 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Implementing self-play Offen

allenai/RL4LMs#18 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Larger models like GPT-J and GPT-NeoX-20B Offen

allenai/RL4LMs#21 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Just a warning that the package doesn't work with Transformers 4.25.1 Offen

allenai/RL4LMs#22 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Off-policy RL algorithms support Offen

enhancement help wanted

allenai/RL4LMs#23 · 5 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Problems with models that don't have the parallelize() function Offen

allenai/RL4LMs#25 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
passing extra variable to the forward function Offen

allenai/RL4LMs#26 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Reproducing IMDB results Offen

allenai/RL4LMs#28 · 4 Kommentare · 1 Reaktion · 1 zugewiesene Person · Indexiert am 13.9.2026
Mix-Precision training Offen

allenai/RL4LMs#29 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Evaluating a specific checkpoint Offen

allenai/RL4LMs#32 · 5 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Is it possible to release the code based on Jax Offen

allenai/RL4LMs#33 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Problem with BLEURT reward function Offen

allenai/RL4LMs#34 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Persistent Variance in IMDB Offen

allenai/RL4LMs#37 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Value is not broadcastable with batch_shape+event_shape Offen

allenai/RL4LMs#38 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
_pickle.UnpicklingError: pickle data was truncated Offen

allenai/RL4LMs#41 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Metric version incompatible Offen

allenai/RL4LMs#42 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Bloom Supporting Offen

allenai/RL4LMs#44 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
A question bother me a long time: What is the difference between RL-for-text-generation and delete-0-reward-model-predictions? Offen

allenai/RL4LMs#46 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
In the paper, what is the detail setting of supervised learning? Is SL has additional supervised data? Offen

allenai/RL4LMs#49 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
[Question] End-to-end example Offen

allenai/RL4LMs#51 · 0 Kommentare · 3 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Error with Accelerate integration + NLPO Offen

allenai/RL4LMs#52 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Bug while loading t5 base model Offen

allenai/RL4LMs#53 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
How can I inference data with the model after PPO training? Offen

allenai/RL4LMs#54 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Using GPT-2 Offen

allenai/RL4LMs#55 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
'GPT2Model' object has no attribute 'first_device' Offen

allenai/RL4LMs#56 · 0 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
model.generate.scores returning two scores Offen

allenai/RL4LMs#57 · 0 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
CPU Support Minor Bug Offen

allenai/RL4LMs#59 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
is multi-dimensional reward supported? Offen

allenai/RL4LMs#60 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Memory issue in metric evals? Offen

allenai/RL4LMs#61 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Reproducing existing results on NarrativeQA Offen

allenai/RL4LMs#62 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
NLPO Code Error and Query About gymnasium vs gym Usage Offen

allenai/RL4LMs#63 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Pip install error with gym and torch Offen

allenai/RL4LMs#64 · 3 Kommentare · 5 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Do you have any plans to apply the recently published Reinforced Self-Training (ReST)? Offen

allenai/RL4LMs#65 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Is PPO really better than SFT (in general)? under the condition of same amount of data Offen

allenai/RL4LMs#66 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
how to stop env parallel multi-process to debug env.step()? Offen

allenai/RL4LMs#68 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Upgrade to torch 2.0 Offen

allenai/RL4LMs#69 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Question about the classifier used for IntentAccuracyDailyDialog. Offen

allenai/RL4LMs#71 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
An issue happened when I set up Offen

allenai/RL4LMs#72 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Which version of pip should we use when we try to set up the environment? Offen

allenai/RL4LMs#73 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
assert self.name.count("/") == 1 Offen

allenai/RL4LMs#75 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
An Issues about RuntimeError Offen

allenai/RL4LMs#76 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
query regarding the reference model Offen

allenai/RL4LMs#77 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026

allenai/RL4LMs

Neue Issues direkt in Ihr Postfach