python / python/typing

Conformance tests: Align automated and manual scoring

Abierto
#1,692 1 comentario 2 reacciones 0 asignados Ver en GitHub

Nadie ha tomado este issue todavía.

topic: other
Lenguaje dominante
Python
Estrellas
1.8k
Forks
302
Merge medio
23 h
PR fusionados (30 d)
8

Descripción

In #1678 I added an automated tool for scoring the conformance test suite, and #1682 and #1683 added some features to support edge cases.

Now I am working on going through the remaining files where the automated conformance judgment on a file differs from the manual one (open PRs: #1684, #1685, #1687, #1688, #1689, #1690, #1691).

I'll use this issue to track the remaining discrepancies (from conformance/src/unexpected_fails.py):

  • mypy/dataclasses_usage.toml: Pass vs. Fail (#1684)
  • mypy/directives_version_platform.toml: Pass vs. Fail (#1685)
  • mypy/namedtuples_define_functional.toml: Pass vs. Fail
  • mypy/overloads_basic.toml: Pass vs. Fail (#1687)
  • mypy/specialtypes_never.toml: Pass vs. Fail (#1688)
  • mypy/typeddicts_alt_syntax.toml: Pass vs. Fail (#1689)
  • mypy/typeddicts_type_consistency.toml: Pass vs. Fail (#1690)
  • pyre/directives_reveal_type.toml: Unsupported vs. Pass
  • pyre/namedtuples_define_functional.toml: Pass vs. Fail
  • pyright/classes_override.toml: Pass vs. Fail (#1691)
  • pyright/dataclasses_frozen.toml: Pass vs. Fail (#1699)
  • pyright/dataclasses_slots.toml: Pass vs. Fail (#1699)
  • pyright/dataclasses_transform_field.toml: Pass vs. Fail (#1699)
  • pyright/dataclasses_transform_func.toml: Pass vs. Fail (#1699)
  • pyright/generics_defaults.toml: Pass vs. Fail (#1700)
  • pyright/literals_literalstring.toml: Pass vs. Fail (#1701)
  • pyright/overloads_basic.toml: Pass vs. Fail (#1687)
  • pyright/protocols_variance.toml: Pass vs. Fail (#1702)
  • pyright/specialtypes_never.toml: Pass vs. Fail (#1688)
  • pyright/tuples_unpacked.toml: Pass vs. Fail (#1703)
  • pytype/dataclasses_usage.toml: Pass vs. Fail (#1684)
  • pytype/directives_assert_type.toml: Pass vs. Fail (#1706)
  • pytype/directives_version_platform.toml: Pass vs. Fail (#1685)
  • pytype/generics_scoping.toml: Pass vs. Fail (#1704)
  • pytype/typeddicts_inheritance.toml: Pass vs. Fail (#1705)

Any help is appreciated.

Guía de contribución

No hay ninguna guía de contribución indexada para este repositorio

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Línea de trabajo

Comienza con conformance/src/unexpected_fails.py e inspecciona las discrepancias restantes que aún no están marcadas para mypy/namedtuples_define_functional.toml, pyre/directives_reveal_type.toml y pyre/namedtuples_define_functional.toml. Compara cada resultado automatizado con su evaluación manual y reconcilia los casos restantes. Se considera terminado cuando las tres discrepancias enumeradas estén resueltas y la puntuación de conformance coincida con los resultados manuales.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
python
Área
testing-qa
Tipo de issue
Error
Dificultad
4/5
Tiempo estimado
3-5 días
Estado de actividad
Estancado
Claridad
Bastante claro
Aptitud para principiantes
35/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.