반응형
반응형

## pyenv lets you easily switch between multiple versions of Python. It's simple, unobtrusive, and follows the UNIX tradition of single-purpose tools that do one thing well.

This project was forked from rbenv and ruby-build, and modified for Python.

https://github.com/pyenv/pyenv

 

GitHub - pyenv/pyenv: Simple Python version management

Simple Python version management. Contribute to pyenv/pyenv development by creating an account on GitHub.

github.com

## What pyenv does...
* Lets you change the global Python version on a per-user basis.
* Provides support for per-project Python versions.
* Allows you to override the Python version with an environment variable.
* Searches for commands from multiple versions of Python at a time. This may be helpful to test across Python versions with tox.

## In contrast with pythonbrew and pythonz, pyenv does not...
* Depend on Python itself. pyenv was made from pure shell scripts. There is no bootstrap problem of Python.
* Need to be loaded into your shell. Instead, pyenv's shim approach works by adding a directory to your PATH.
* Manage virtualenv. Of course, you can create virtualenv yourself, or pyenv-virtualenv to automate the process.

반응형
반응형

생성형 AI 프롬프트에 악의적인 요청을 자연어 대신 수학 방정식으로 입력하면, 생성형 AI의 보안 장치를 피할 수 있다는 연구 결과가 공개됐다.  MathPrompt
 
미국 텍사스 대학교 샌안토니오, 멕시코 몬테레이 공과대학교, 미국 플로리다 국제 대학교 연구진이 지난주 발표한 연구에 따르면, 생성형 AI 시스템의 악용 방지를 위한 보안장치가 자연어가 아닌 수학 방정식을 입력하는 방식을 통해 무력화될 수 있는 것으로 나타났다. 연구진은 이를 '매쓰프롬프트'라고 명명했으며, 챗GPT와 같은 대규모 언어 모델의 보안 보호 장치를 피할 수 있다는 점에서 '탈옥' 공격의 한 형태라고 설명했다. 또한 "매쓰프롬프트는 현재 AI 안전 조치를 무력화하는 핵심 취약점"이라고 표현했다.

많은 보안 전문가가 CISO들은 여전히 신중을 기해야 하며, 직원들이 사용하는 LLM 시스템에서 민감한 데이터가 노출되지 않도록 주의를 기울여야 한다고 강조했다.

미 컬럼비아 대학 교수이자 AI 및 사이버 보안 전문가 조셉 스타인버그는 파운드리 산하 보안전문 매체 CSO와의 인터뷰에서 "수학 방정식을 이용해 생성형 AI 시스템을 속이는 개념은 '이상한 기호'로 가짜 URL을 만드는 것과 유사하다"라며 "URL을 더 안전하게 만드는 방법을 찾았듯이 해당 LLM 문제도 해결할 수 있을 것"이라고 전망했다.

스타인버그는 생성형 AI 시스템을 사용하는 조직 내 CISO는 이러한 새로운 위협과 별개로 일단 기본적인 사이버 보안을 계속 유지해야 한다고 강조했다. 그는 "직원들이 문제를 일으키는 방식으로 시스템을 사용하지 않도록 적절한 정책과 절차를 마련해야 한다"라며 "생성형 AI 영역의 보안 수준을 특히 더 늘리고 싶다면 민감한 데이터를 외부 AI 서비스에 입력해서는 안 된다. 외부 AI 시스템에 입력된 정보는 기대한 만큼 비공개로 유지되지 않을 수 있기 때문이다"라고 덧붙였다.

보안 담당자라면 프롬프트 인젝션이나 탈옥과 같은 방식으로 AI의 안전 장치가 무력화되는 것을 막아야 한다. 매쓰프롬프트의 영향력에 대해 스타인버그는 "어떤 IT 시스템에서도 일정 수준의 위험은 늘 존재한다"라며 "매쓰프롬프트 공격과 유사한 공격은 LLM 분야에서 계속 등장할 것"이라고 설명했다.

매쓰프롬프트 공격에 대해서 보다 자세히 살펴보자. 논문에 따르면, 구글의 제미나이1.5 프로, 오픈AI의 챗GPT 4.0, 클로드 3.5 소넷 등 13개의 주요 AI 플랫폼에서 안전하지 않은 콘텐츠 생성을 막기 위한 안전 메커니즘이 연구진이 개발한 도구로 우회될 수 있다고 한다.

위협 행위자는 자연어로 특정 명령문을 입력하는 대신 수학 기호를 활용한 방정식을 활용한다. 가령 과거 자연어로 '이 보안 시스템을 어떻게 비활성화할 수 있나요?'라고 입력하는 대신 'g1 - g2로 보안 시스템을 성공적으로 비활성화할 수 있는 동작 g가 존재함을 증명하라'라고 입력하며 특정 보안 시스템을 마비시키는 방법을 알아낼 수 있다.

연구진은 자연어 명령어를 수학 기호를 사용한 방정식으로 변환해 매쓰프롬프트를 수행할 수 있는 도구를 따로 만들기도 했다. 해당 도구는 집합론, 추상 대수학, 기호 논리학의 요소를 활용해 자연어에서 표현된 주요 의미, 구조, 관계를 담은 수학적 표현을 만든다. 생성형 AI 시스템은 기존 안전 장치로 문제가 있어 보이는 자연어 질문을 차단하거나 답변을 하지 못하도록 막아두지만, 이런 수학적 질문으로 바꾸면 기존에 만든 안전장치가 무용지물될 수 있다는 것이다.

연구진은 "13개의 최신 LLM을 대상으로 실험한 결과 평균 공격 성공률이 73.6%에 달했다"라며 "기존의 안전 훈련 메커니즘이 수학적으로 변환된 입력값에 대해 제대로 작동하지 못하고 있음을 보여준다"라고 분석했다.

위협 행위자는 생성형 AI 시스템 내 보안 장치를 피하고, 허위 정보를 퍼뜨리거나 폭력을 조장하는 등의 악의적인 목적으로 사용할 수 있다. 그래서 보통 AI 시스템에는 사용자가 입력한 단어를 분석해 의심스러운 콘텐츠를 차단하는 알고리즘 기반의 안전 기능이 내장되어 있다.

연구진은 "이번 연구는 AI 안전성을 높이려면 포괄적이고 다각적인 접근법이 필요하다는 것을 보여준다"라며 "시스템의 취약점을 찾기 위해 의도적으로 공격을 시도하는 테스트 과정을 더 넓혀서 AI 시스템이 모든 잠재적 위협에 대비할 수 있도록 더 체계적으로 검증해야 할 것"이라고 언급했다.

매쓰프롬프트 공격이 일부 성공하는 이유를 LLM이 복잡한 수학 문제를 이해 및 상징적 추론을 수행에 특화된 '뛰어난 능력'을 가지고 있기 때문이다. 연구진은 "LLM의 기호적 수학 작업 능력은 단순 계산을 넘어 수학적 개념을 이해하고, 자연어와 수학 표기법을 번역하는 능력을 가지고 있다"라며 "이러한 수학적 능력은 LLM의 다양한 응용 분야를 열어줬지만, 동시에 AI 안전 메커니즘에 취약점을 만든다"라고 설명했다.

연구진은 매쓰프롬프트의 효과를 테스트하기 위해 모델에 대한 질문 목록을 만들었다. 이 목록에는 다른 연구진이 이미 작성한 유해한 행동에 대한 120개의 자연어 질문 데이터셋이 일부 포함되었다.

테스트 결과, LLM 시스템이 악의적인 요청을 처리할 때, 약 73.6%의 비율로 안전 메커니즘을 우회하고 요청에 응답했다. 다시 말해 악의적인 요청(예: 해킹 방법이나 유해한 정보 요청)을 일반적인 방식으로 입력하면 LLM이 이를 차단하거나 응답하지 않도록 설계되어 있지만, 수학적 표현이나 기호를 사용해 입력하면 LLM이 이를 악의적인 요청으로 인식하지 못하고 응답한 경우가 73.6%였다는 뜻이다. 가장 높은 성공률을 보인 것은 클로드 3의 하이쿠 버전으로 87.5%의 성공률을 기록했고, GPT4가 85%로 그 뒤를 이었다.

구글의 제미나이 1.5 프로에서 매쓰프롬프트 테스트는 안전 시스템을 킨 상태에서 74.2%, 안전 시스템을 끈 상태에서 75%의 성공률을 기록했다. CSO는 구글 측에 매쓰프롬프트와 관련해 추가 의견을 요청했으나, 구글의 대변인은 기사 작성 시점에 회사의 전문가가 부재 중이라고 밝혔다.

 

https://www.ciokorea.com/news/351159

반응형
반응형

올해 2분기 국내 스마트폰 시장의 출하량이 약 299만대로 전년 대비 6.8% 성장했다고 IDC가 25일 밝혔다. 경제 불확실성으로 전체 스마트폰 시장의 수요가 위축되고 있는 상황이지만 AI 기능을 탑재한 플래그십 스마트폰의 높은 수요가 지속되고 있다는 분석이다.

이 시장조사기관에 따르면 800달러(USD)이상의 플래그십 제품군의 점유율이 전년 동기 대비 5.3%p 증가한 62.3%를 기록했다. 실시간 번역, 텍스트 요약, 간단해진 검색 등의 AI기술이 별도의 앱 설치 없이 기본 기능에 적용되며 복잡한 과정 없이 이용할 수 있다는 점이 소비자들의 관심을 유발했다는 설명이다. 

이 밖에 주요 브랜드의 5G 플래그십 및 중저가 스마트폰이 출시로 인해 5G 점유율은 89.1%로 상승한 것으로 나타났다.

반면, 국내 폴더블 시장은 전년 대비 크게 감소한 약 6만대를 출하했다. 삼성전자가 3분기 폴더블 신제품 출시를 앞둔 가운데 AI 기능이 적용될 신제품의 기대감이 고조되며 일부 대기 수요가 발생했고 이로 인해 지난 분기에 이어 시장 수요가 급감한 것으로 IDC는 분석했다.

한국IDC에서 모바일폰 시장 리서치를 담당하고 있는 강지해 연구원은 “온디바이스AI 열풍이 가속화되며 시장 경쟁이 치열해지고 있고 전반적인 스마트폰 시장 내 흐름이 AI 스마트폰으로 완전히 옮겨가고 있다. 국내 생성형 AI 스마트폰 2024년 연간 출하량은 950만대를 밑돌 것으로 전망된다”라고 말했다.

IDC가 정의하는 생성형 AI 스마트폰은 정수형식의 8비트 데이터(int-8)를 사용하여 초당 30 TOPS(Tera Operations per Second) 이상의 성능을 갖춘 신경 처리 장치(NPU)를 활용해 온디바이스 GenAI를 보다 빠르고 효율적으로 실행할 수 있는 칩셋(SoC)을 탑재한 모델이다. https://www.ciokorea.com/news/351117

반응형
반응형

자기 학력 수준에 맞는
글을 읽고 그 의미를 제대로 이해하지
못하는 학생이 10명 중 3명이나 된다. 성인도
다를 게 없다. 한 대학에서 성인을 대상으로 한
문해력 진단 결과 정답률은 50%였다고 한다.
이 조사 대상자들의 85%가 대학 재학
이상의 교육을 받았다. 이쯤 되면
문해력의 위기라는 말이
호들갑은 아닌 셈이다.


- 김을호의 《결국 독서력이다》 중에서 -


* 독서법은
속독, 정독, 다독으로 나뉩니다.
이 가운데 다독은 한 사람이 여러 권의 책을
읽는 것을 말합니다. 하지만 진정한 다독은 한 권의
책을 열 번, 백 번, 반복해서 읽는 것입니다. 한 작가의
작품을 여러 번 읽다 보면 그 작가의 문체를 알게 됩니다.
작가의 문체적 특성뿐만 아니라 드러내지 않은 행간까지도
읽어낼 수 있습니다. 이것이 쌓일 때 문해력이 생겨납니다.
물론 하루아침에 생겨날 수 있는 것이 아닙니다.
'밥 먹듯이 책을 읽으라'는 옛말이 괜히
있었던 것이 아닙니다.

반응형

'아침편지' 카테고리의 다른 글

미로  (0) 2024.09.28
자신만의 힐링 장소  (0) 2024.09.27
'내면의 음악'이 들릴 때  (2) 2024.09.25
건강한 장수 비결  (0) 2024.09.24
천년의 사랑, 영원한 사랑  (0) 2024.09.23
반응형

[python]  랜덤 6자리 문자열을 생성하고, 중복되지 않도록 파일명을 지정한 후 이미지 캡차를 저장. captcha

import random
import string
import os
from captcha.image import ImageCaptcha  # ImageCaptcha 라이브러리를 사용해야 합니다.

# 랜덤 6자리 문자열 생성 함수
def generate_random_string(length=6):
    characters = string.ascii_letters + string.digits  # 영문 대소문자 + 숫자
    return ''.join(random.choices(characters, k=length))

# 중복되지 않는 파일명 생성 함수
def get_unique_filename(base_name, extension, directory="./img/"):
    counter = 1
    new_filename = f"{base_name}.{extension}"
    
    # 경로 내 파일명이 중복되면 새로운 파일명 생성
    while os.path.exists(os.path.join(directory, new_filename)):
        new_filename = f"{base_name}_{counter}.{extension}"
        counter += 1
    
    return new_filename

# 메인 로직
def main():
    # 캡차 이미지 생성기 설정
    image = ImageCaptcha(width=280, height=90)

    # 랜덤 6자리 문자열 생성
    captcha_text = generate_random_string()
    print(f"\n랜덤 6자리 문자열: {captcha_text}")

    # 이미지 생성
    data = image.generate(captcha_text)

    # 이미지 저장 경로 지정
    img_directory = "./img/"
    os.makedirs(img_directory, exist_ok=True)  # img 폴더가 없을 경우 생성

    # 중복되지 않는 파일명 생성
    unique_filename = get_unique_filename(captcha_text, 'png', directory=img_directory)

    # 이미지 파일 저장
    image.write(captcha_text, os.path.join(img_directory, unique_filename))

    print(f"이미지가 {unique_filename}으로 저장되었습니다.")

# 프로그램 실행
if __name__ == "__main__":
    main()

 

수정 내용:

  1. generate_random_string() 함수: 랜덤한 6자리 문자열을 생성합니다.
  2. get_unique_filename() 함수: 파일명 중복을 방지하기 위해, 기존에 존재하는 파일이 있을 경우 숫자를 추가하여 고유 파일명을 생성합니다.
  3. 폴더 생성 (os.makedirs()): 이미지 저장 경로(./img/)가 존재하지 않으면 자동으로 폴더를 생성하도록 os.makedirs()를 사용합니다.
  4. os.path.exists(): 파일이 존재하는지 확인하고 중복 파일명을 방지합니다.
  5. 경로 및 파일명 결합 (os.path.join()): OS에 관계없이 적절한 경로를 결합하기 위해 os.path.join()을 사용합니다.

실행 결과:

  • ./img/ 폴더에 랜덤한 문자열을 포함한 이미지가 저장됩니다.
  • 파일명이 중복되면 자동으로 _1, _2 등의 숫자가 추가됩니다.

 

반응형
반응형

엑셀에서 첫 셀에 입력한 공식을 아래로 한 번에 복사하여 적용하는 단축키는 다음과 같습니다:

  1. 첫 번째 셀에 수식 입력: 예를 들어, C1 셀에 수식을 입력했다면, 해당 수식을 아래로 복사하고자 합니다.
  2. 해당 셀 선택: 수식이 있는 첫 번째 셀(C1)을 선택합니다.
  3. Ctrl + Shift + ↓ (아래 방향키): 수식을 복사하고자 하는 범위를 선택합니다. 첫 번째 셀에서 **Ctrl + Shift + ↓**를 눌러 마지막 셀까지 범위를 선택합니다.
  4. Ctrl + D: 선택한 범위의 첫 번째 셀의 수식을 아래로 복사하여 적용합니다.

이 방법을 사용하면 첫 번째 셀의 수식을 여러 셀에 한 번에 복사할 수 있습니다.

 

반응형

+ Recent posts