skplanet / dialog-koelectra Goto Github PK

유익한 내용 올려주셔서 감사합니다.
modeling.py 파일에서 contrib_layers import한 부분 관련해서 궁금한게 있습니다.

from tensorflow.keras import layers as contrib_layers
from tensorflow.contrib import layers as contrib_layers

contrib가 tensorflow 1점대 버전에서 존재하지 않는 것 같은데 그 바로 위에 줄에 주석 처리한 부분으로 수정해서 돌리신 건가요?

안녕하세요 유익한 자료 공개해 주셔서 정말 감사드립니다.

automatic mixed precision 사용했을 때 NanLossDuringTrainingError가 뜨는데 learningrate나 환경설정 등 따로 수정해야 되는 부분이 있나요?

[1,5]<stderr>:ERROR:tensorflow:Error recorded from training_loop: NaN loss during training.
[1,5]<stderr>:INFO:tensorflow:training_loop marked as finished
tensorflow.python.training.basic_session_run_hooks.NanLossDuringTrainingError: NaN loss during training.

안녕하세요. 멋진 오픈소스 공개해주셔서 감사합니다.
모델 사용 관련해서 궁금한 점이 있어서 이슈 남깁니다.

대화체로 학습이 됐다고 되어있는데, 대화 데이터라면 [TURN]을 포함한 대화 데이터 포맷을 위한 몇 스페셜 토큰을 정의하셨을 것 같은데,
어떤 토큰을 사용하셨는지 알고 싶습니다.

감사합니다.