"Should You Mask 15% in Masked Language Modeling?" https://arxiv.org/abs/2202.08005 Should You Mask 15% in Masked Language Modeling? Masked language models (MLMs) conventionally mask 15% of tokens due to the belief that more masking would leave insufficient context to learn good representations; this masking rate has been widely used, regardless of model sizes or masking strategies. In arxiv.org..

“Formatted String Literals.” 1) f-string nested in nested python 버전이 올라가면서 다양하고 편리한 기능이 많이 생겼다. 그 중하나인 f-string 안에 다시 f-string을 사용하는 것이다. 이렇게 되면 앞서 소개한 f-string trick(1)의 datetime을 자유자재로 사용할 수 있다. from datetime import datetime now : datetime = datetime.now() date_spec : str = "%d.%m.%Y" date = now | date_spec print(f"{now:{date_spec}}") # '17.03.2024' 2) file path file path를 문자열로 처리할 때 escape ..

304 Not Modified 클라이언트 리디렉션 응답 코드 304 Not Modified 는 요청된 리소스를 재전송할 필요가 없음을 나타낸다. 캐시된 자원으로의 암묵적인 리디렉션이다. 이는 GET이나 HEAD 요청처럼 요청 방법이 안전한 경우 또는 요청이 조건부로 If-None-Match 또는 If-Modified-Since 헤더를 사용할 때 응답 된다. 간혹 서버에 필요 없는 header나 body가 포함되어 있거나 https 주소에 http로 요청할 때 발생

syslog 보다 더 많은 기능을 제공하는 rsyslog 로그 관리 프로그램을 docker로 빌드해 root 환경에서 사용할 때 겪는 에러를 알아보자. 1) rsyslogd: imklog: cannot open kernel log (/proc/kmsg): Operation not permitted. imklog : Kernel Log Input Module kernel과 관련된 로그를 기록하는 module이다. 불필요하다면 /etc/rsyslog.conf 파일을 수정한다. sed -i '/imklog/s/^/#/' /etc/rsyslog.conf docker의 권한을 부여해 실행 docker --privileged https://github.com/docker/for-win/issues/8649 /pr..

Python 처음 접하는 사람들이 하는 흔한 실수 1) try ~ except~ 구문 구문 사용할 때 error문을 직접 그것도 이상하게 작성하는 경우가 많다. python에서 사용하는 error 구문을 사용하면 될 일을 나만이 알아보게 해놓는것이 큰 실수로 이어진다. [Worse] total: float = 0 while True: user_input: str = input("Add: ") try: total += float(user_input) except: print('숫자만 입력해주시오.') print(f"Current: {total}") [Better] total: float = 0 while True: user_input: str = input("Add: ") try: total += floa..

https://pullpo.io/pr-template-builder [https://pullpo.io/pr-template-builder pullpo.io](https://pullpo.io/pr-template-builder) 📍 Jira ticket Tip: Install Jira-GitHub integration Task 123 📝 Description Please include a summary of the changes. Principal change 1 - Did this and this. Principal change 2 - Did this and this. Principal change 3 - Did this and this. 🧪 Testing Please describe the tests ..

raise exceptions.DefaultCredentialsError(_CLOUD_SDK_MISSING_CREDENTIALS) google.auth.exceptions.DefaultCredentialsError: Your default credentials were not found. To set up Application Default Credentials, see https://cloud.google.com/docs/authentication/external/set-up-adc for more information. 인증되지 않은 IP에서 구글 API(google-generativeai)를 사용할 때 생기는 문제 두가지 문제로 이 Error가 발생한다. 첫번째 google-auth의 버전이 낮아 ..

Python f-string을 활용한 깔끔한 출력 1) int 문자열 출력 f-string으로 숫자를 가독성이 좋은 형태로 구분자 선택을 할 수 있다. n : int = 1000000 print(f"{n}") # 1000000 print(f"{n:_}") # 1_000_000 print(f"{n:,}") # 1,000,000 2) 문자열 출력 blank space 채우기 특정 항목을 출력할 때 문자열의 길이가 달라 보기힘든 경우 일일히 문자열의 크기만큼 빈칸을 사용해야한다. 이 경우 f-string으로 보정할 수있다. type1 : str = 'color' type2 : str = 'size' print(f"{type1: