인공지능(AI) 언어모델 ‘BERT(버트)'는 무엇인가

github.com/google-research/bert

지난해 11월, 구글이 공개한 인공지능(AI) 언어모델 ‘BERT(이하 버트, Bidirectional Encoder Representations from Transformers)’는 일부 성능 평가에서 인간보다 더 높은 정확도를 보이며 2018년 말 현재, 자연 언어 처리(NLP) AI의 최첨단 딥러닝 모델이다. 

또한 BERT는 언어표현 사전학습의 새로운 방법으로 그 의미는 '큰 텍스트 코퍼스(Wikipedia와 같은)'를 이용하여 범용목적의 '언어 이해'(language understanding)' 모델을 훈련시키는 것과 그 모델에 관심 있는 실제의 자연 언어 처리 태스크(질문·응답 등)에 적용하는 것이다.

특히 BERT는 종래보다 우수한 성능을 발휘한다. BERT는 자연언어 처리 태스크를 교육 없이 양방향으로 사전학습하는 첫 시스템이기 때문이다. 교육 없음이란 BERT가 보통의 텍스트 코퍼스만을 이용해 훈련되고 있다는 것을 의미한다. 이것은 웹(Web) 상에서 막대한 양의 보통 텍스트 데이터가 여러 언어로 이용 가능하기 때문에 중요한 특징으로 꼽는다.

사전학습을 마친 특징 표현은 문맥에 '의존하는 방법'와 '의존하지 않는 방법'의 어느 방법도 있을 수 있다. 또 문맥에 의존하는 특징적인 표현은 단방향인 경우와 혹은 양방향일 경우가 있다. word2vec나 GloVe와 같이 문맥에 의존하지 않는 모델에서는, 어휘에 포함되는 각 단어마다 '단어 삽입(word embedding)'이라는 특징 표현을 생성한다. 따라서, 'bank'라는 단어는 'bank deposit' 또는 'river bank'과 같은 특징으로 표현되며, 문맥에 의존하는 모델에서는 문장에 포함되는 다른 단어를 바탕으로 각 단어의 특징을 표현 생성한다.

BERT는 문맥에 의존하는 특징적인 표현의 전학습을 실시하는 대응을 바탕으로 구축되었다. 그러한 대응은 Semi-supervised Sequence Learning, Generative Pre-Training, ELMo, 및 ULMFit를 포함하며, 대응에 의한 모델은 모두 단방향 혹은 얕은 양방향이다. 각 단어는 단지 그 왼쪽(혹은 오른쪽)에 존재하는 단어에 의해서만 문맥의 고려가 되는 것을 의미한다.

예를 들어, I made a bank deposit라는 문장은 bank의 단방향 특징표현은 단지 I made a만에 의해 결정되며, deposit은 고려되지 않는다. 몇개의 이전의 대응에서는 분리한 좌문맥모델과 우문맥모델에 의한 특징표현을 조합하고 있었지만, 이것은 얕은 양방향 방법이다. BERT는 bank를 왼쪽과 오른쪽 양쪽의 문맥 I made a ... deposit을 딥 뉴럴 네트워크(Deposit)의 최하층에서 이용해 특징을 표현하기 때문에 BERT는 '딥 양방향(deeply bidirectional)'이다.

BERT는 간단한 접근법을 사용한다. 입력에서 단어의 15%를 숨기고 딥 양방향 Transformer encoder(관련 논문다운)를 통해 전체 시퀀스를 실행한 다음 마스크 된 단어만 예측한다. 예를 들어, 아래와 같이 문간의 관계를 학습하기 위해서는 임의의 단언어 코퍼스에서 생성 가능한 심플한 작업을 이용하여 학습한다. A와 B의 두 개의 글을 받았을 때 B가 A의 뒤에 오는 실제 문장인지, 코퍼스 안의 랜덤한 글인지를 판정하는 태스크이다.
 

또한 큰 모델(12층에서 24층의 Transformer)을 큰 코퍼스(Wikipedia + BookCorpus)로 긴 시간을 들여(100만 갱신 스텝) 훈련했다. 그것이 BERT이며, 이용은 '사전학습'과 '전이학습'의 2단계로 구분된다.

사전학습(pre-training)은 상당히 고가로 4에서 16개의 Cloud TPU로 4일(12 층의 Transformer 모델의 경우 4개의 TPU를 사용하여 4일, 24층 Transformer 모델의 경우 16개의 TPU를 사용하여 4일이라는 의미) 각 언어마다 1회만의 순서이다. 자연 언어 처리 개발자는 처음부터 자신의 모델을 사전 학습할 필요가 없다.

전이학습(Fine-tuning)은 저렴하며, 논문(아래 참조)과 똑같은 사전학습이 끝난 모델을 사용하여 하나의 Cloud TPU를 이용, 1시간 GPU를 사용하면 2, 3시간만에 재현할 수 있다. 예를 들면 SQuAD는 하나의 Cloud TPU를 이용 30분으로 하나의 시스템으로서는 최첨단(state-of-the-art)인 91.0%의 Dev F1을 달성할 수 있다.

이밖에 BERT의 또 다른 중요한 측면은 많은 종류의 자연 언어 처치 태스크로 인해 매우 쉽게 채택될 수 있다. 논문 중에서 문장 수준 (SST-2 등), 문장 쌍 수준(MultiNLI 등), 단어 수준(NER 등) 스팬 레벨 2 (SQuAD 등)의 태스크에 대해서 거의 태스크 특유의 변경을 실시하는 일 없이, 최첨단 결과를 얻을 수 있는 것을 나타내고 있다.

참고) 'BERT: 언어 이해를 위한 양방향 트랜스포머 사전 학습(BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding)' 논문(다운받기), BERT Google-research의 깃허브(GitHub) (바로가기) 
 

www.aitimes.kr/news/articleView.html?idxno=13117

ebbnflow.tistory.com/151

vhrehfdl.tistory.com/15

구글 마인트맵 -  How to set up MindMup 2.0 to open files on double-click

drive.mindmup.com/

youtu.be/c88_WauKevs

Great for individual note-taking

• Capture ideas at the speed of thought: MindMup has powerful keyboard shortcuts to speed up your work, and the interface is optimised for frictionless work and designed to get out of your way.
• Access your ideas from anywhere: Your mind maps are stored in Google's cloud infrastructure, so you can use them from any device and any location. The user interface adjusts automatically to screen sizes and input devices, so it will work great both on your desktop and on your mobile devices.
• Add images easily: Easily insert images from Google Drive albums. If your mobile phone is synchronised with Google Drive, just snap, click, and they are in your mind map.

Do more with mind maps, faster

• Capture ideas at the speed of thought: MindMup has powerful keyboard shortcuts to speed up your work, and the interface is optimised for frictionless work and designed to get out of your way.
• Make slideshows and articles: If you plan presentations or prepare for writing using mind maps, MindMup will help you take your thoughts into a slideshow or a document outline quickly.
• Access your ideas from anywhere: Your mind maps are available everywhere, instantly, from the cloud.
• Connect team documents visually: link to other project documents on Google Drive easily, and you'll be able to preview them in the map and use the mindmap as a central overview of your work.

Great for teams and classrooms

• Work safely and securely: All the data is stored on Google Drive, directly from the browser. The access is completely controlled by Google Apps authentication, so you can easily control who can read or modify the map. MindMup does not have any third-party ads and does not send any private information to third parties.
• Easy to administer: Administrators can easily enable or block MindMup similar to any other Google Apps for Domains/Education application. Google authentication is used throughout the application, so there are no separate accounts to manage. The entire domain can easily be authorised for MindMup Gold.
• Get started easily: The user interface is simple and intuitive, and even young students will be able to use it on their own without much help.

StreamingRecognitionResult

A streaming speech recognition result corresponding to a portion of the audio that is currently being processed.

Fields

#alternatives

#channel_tag

https://cloud.google.com/speech-to-text/docs/reference/rpc/google.cloud.speech.v1#streamingrecognitionresult

Package google.cloud.speech.v1

RecognitionConfig

Provides information to the recognizer that specifies how to process the request.

Fields

https://cloud.google.com/speech-to-text/docs/reference/rpc/google.cloud.speech.v1#recognitionconfig

여러 채널로 오디오 스크립트 작성

transcribe_multichannel.py 

이 페이지에서는 Speech-to-Text를 사용하여 둘 이상의 채널이 포함된 오디오 파일을 텍스트로 변환하는 방법을 설명합니다.

오디오 데이터에는 녹음된 화자에 대한 각각의 채널이 포함되어 있는 경우가 많습니다. 예를 들어 두 사람의 전화 통화를 녹음한 오디오라면 각 회선이 별도로 녹음된 채널 두 개가 포함될 수 있습니다.

여러 채널이 포함된 오디오 데이터를 텍스트로 변환하려면 Speech-to-Text API에 대한 요청에 채널 수를 제공해야 합니다. 요청의 audioChannelCount 필드를 오디오에 있는 채널 수로 설정합니다.

여러 채널이 포함된 요청을 보내면 Speech-to-Text가 오디오에 있는 서로 다른 채널을 식별하는 결과를 반환하며 channelTag 필드를 사용하여 각 결과를 대신하는 항목에 라벨을 지정합니다.

오디오 채널 설명 : https://cloud.google.com/speech-to-text/docs/multi-channel

from google.cloud import speech

client = speech.SpeechClient()

with open(speech_file, "rb") as audio_file:
    content = audio_file.read()

audio = speech.RecognitionAudio(content=content)

config = speech.RecognitionConfig(
    encoding=speech.RecognitionConfig.AudioEncoding.LINEAR16,
    sample_rate_hertz=44100,
    language_code="en-US",
    audio_channel_count=2,
    enable_separate_recognition_per_channel=True,
)

response = client.recognize(config=config, audio=audio)

for i, result in enumerate(response.results):
    alternative = result.alternatives[0]
    print("-" * 20)
    print("First alternative of result {}".format(i))
    print(u"Transcript: {}".format(alternative.transcript))
    print(u"Channel Tag: {}".format(result.channel_tag))

github.com/googleapis/python-speech/blob/master/samples/snippets/transcribe_multichannel.py

google.api_core.exceptions.InvalidArgument: 400 Request payload size exceeds the limit: 10485760 bytes.

일련의 오디오 파일을 텍스트로 변환하는 프로젝트에 처음으로 GCS Speech API를 사용하고 있습니다. 각 파일은 약 60 분이 소요되며 전체 시간 동안 지속적으로 말하는 사람입니다. GC SDK를 설치했으며 다음과 같이 요청을 수행하는 데 사용하고 있습니다.gcloud ml speech recognize-long-running \ "/path/to/file/audio.flac" \ --language-code="pt-PT" --async

내 기록 중 하나에서 이것을 실행할 때마다 다음 오류 메시지가 표시됩니다.

ERROR: (gcloud.ml.speech.recognize-long-running) INVALID_ARGUMENT: Request payload size exceeds the limit: 10485760 bytes.

API가 최대 180 분까지 파일을 처리 할 수있는 경우 최대 10,000 자의 음성을 출력 할 방법이 없기 때문에 매우 어려운 제한 인 것 같습니다 .
오디오 파일을 더 작은 조각으로 나누려고했고 최대 4 개의 15 분 샘플에 도달했지만 동일한 오류가 발생했습니다. 게다가, 그것이 효과가 있더라도 여기에서 내가 만드는 모든 새로운 녹음을 앞으로 나누는 것은 매우 지루하고 비실용적 일 것입니다.

(env) C:\__STT>
(env) C:\__STT>
(env) C:\__STT>python transcribe_async.py test_Linda_audio_converter.flac
Traceback (most recent call last):
  File "C:\__STT\env\lib\site-packages\google\api_core\grpc_helpers.py", line 57, in error_remapped_callable
    return callable_(*args, **kwargs)
  File "C:\__STT\env\lib\site-packages\grpc\_channel.py", line 923, in __call__
    return _end_unary_response_blocking(state, call, False, None)
  File "C:\__STT\env\lib\site-packages\grpc\_channel.py", line 826, in _end_unary_response_blocking
    raise _InactiveRpcError(state)
grpc._channel._InactiveRpcError: <_InactiveRpcError of RPC that terminated with:
        status = StatusCode.INVALID_ARGUMENT
        details = "Request payload size exceeds the limit: 10485760 bytes."
        debug_error_string = "{"created":"@1605235850.871000000","description":"Error received from peer ipv4:216.58.220.138:443","file":"src/core/lib/surface/call.cc","file_line":1062,"grpc_message":"Request payload size exceeds the limit: 10485760 bytes.","grpc_status":3}"
>

The above exception was the direct cause of the following exception:

Traceback (most recent call last):
  File "transcribe_async.py", line 117, in <module>
    transcribe_file(args.path)
  File "transcribe_async.py", line 54, in transcribe_file
    request={"config": config, "audio": audio}
  File "C:\__STT\env\lib\site-packages\google\cloud\speech_v1\services\speech\client.py", line 425, in long_running_recognize
    response = rpc(request, retry=retry, timeout=timeout, metadata=metadata,)
  File "C:\__STT\env\lib\site-packages\google\api_core\gapic_v1\method.py", line 145, in __call__
    return wrapped_func(*args, **kwargs)
  File "C:\__STT\env\lib\site-packages\google\api_core\grpc_helpers.py", line 59, in error_remapped_callable
    six.raise_from(exceptions.from_grpc_error(exc), exc)
  File "<string>", line 3, in raise_from
google.api_core.exceptions.InvalidArgument: 400 Request payload size exceeds the limit: 10485760 bytes.

(env) C:\__STT>

(env) C:\__STT>

Google Cloud 지원팀과 이야기를 나눈 후 무료 평가판 구독 제한과 파일 크기 (~ 60 분) 때문이라는 결론에 도달했습니다.

유료 구독으로 업그레이드하고 내 파일을 Google Cloud Storage에 업로드 한 후 트랜스 크립 션에서 페이로드를받을 수있었습니다.

stackoverflow.com/questions/51601697/invalid-argument-request-payload-size-exceeds-the-limit-10485760-bytes