일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 | 31 |
- 한빛미디어서평단
- MATLAB
- 서평
- Google Analytics
- python visualization
- matplotlib
- 독후감
- Pandas
- 시각화
- Blog
- Tistory
- Python
- 통계학
- SQL
- MySQL
- Ga
- 매틀랩
- 월간결산
- 티스토리
- 한빛미디어
- 블로그
- 딥러닝
- 리눅스
- 텐서플로
- 서평단
- 파이썬 시각화
- Visualization
- tensorflow
- Linux
- 파이썬
- Today
- Total
목록빅데이터 (65)
pbj0812의 코딩 일기
0. repository 생성 - 자신의 github 접속(로그인) 이후 우측 상단의 + 버튼을 눌러 repository 생성 - 필수 내용 입력 - 생성 결과 https://github.com/pbj0812/git_test.git 1. 실습 1) 로컬 저장소 접근(참고) cd /Users/pbj0812/Desktop/git_test 2) 로컬 저장소를 github에 연결 git remote add origin https://github.com/pbj0812/git_test.git 3) github repository에 올리기 git push origin master - 이후, github id, pwd 입력 2. 결과 3. 참고 - 팀 개발을 위한 Git, Github 시작하기
0. 목표 - git을 통한 간단한 파일 버전 관리 1. 준비물 1) git 설치 확인 git 2) 샘플 파일 - 바탕화면에 git_test 폴더를 만들고 안에 README.md란 파일을 만듬 - /Users/pbj0812/Desktop/git_test/README.md - 내용 1. 실습 1) 생성한 폴더에 접속 cd /Users/pbj0812/Desktop/git_test 2) git 초기화 - .git 폴더가 생성됨 git init 3) 사용자 정보 입력 - 내 정보 입력 git config --global user.email "pbj00812@gmail.com" git config --global user.name "pbj0812" 4) 커밋에 추가할 파일 선택 git add README.md 5..
0. 목표 - Google Data Studio Tutorial 따라하기 1. 작업 0) Dataset 준비 - google sheet 준비(iris dataset) 1) 링크 접속(링크) - 빈 보고서 클릭 이후 진행 2) Google 스프레드시트 3) 해당 시트 클릭 4) 대쉬보드 꾸미기 2. 참고 - 가이드
0. 목표 - 목표 위치에 1분마다 현재 시간을 기록한 파일 저장 1. Airflow 설치 pip install apache-airflow 2. 코드 작성 - 작성 위치 : ~/airflow/dags from airflow import DAG from airflow.operators.bash_operator import BashOperator from airflow.operators.dummy_operator import DummyOperator from airflow.operators.python_operator import PythonOperator from datetime import datetime, timedelta dag = DAG('hello-airflow', description='Hell..
0. elasticsearch 설치 / 실행 1) 다운로드 - 링크 2) 실행 - 압축해제 이후 bin 폴더 아래의 elasticsearch.bat 실행 1. kibana 설치 / 실행 1) 다운로드 - 링크 2) 실행 - 압축해제 이후 bin 폴더 아래의 kibana.bat 실행 * elasticsearch 실행 필요 2. kibana 튜토리얼 따라하기(링크) 1) kibana 열기 - http://localhost:5601/ - try our sample data 클릭 2) Sample flight data(add data) 클릭 - 클릭시, 대쉬보드, 시각화 도구, 인덱스 패턴 등이 설치 3) discover - 좌측의 discover(나침반 그림) 클릭 - 전체 데이터의 원본 모양 확인 가능 - ..
0. 목표 - 장비 없이 Google Firebase를 통해 나만의 (조건부) 무료 웹사이트 만들기 1. Firebase 설정 1) Firebase 홈페이지 접속(링크) - 시작하기 - 프로젝트 추가 - 프로젝트 이름 정의 및 계속 - 계속 - 프로젝트 만들기 - 계속 - 클릭 - 앱 닉네임 설정 및 앱 등록 - 다음 계속 2) CLI 설정 (1) firebase 로컬에 설치 npm install -g firebase-tools (2) firebase 로그인 firebase login - 웹 창이 뜨면서 인증 화면 표출 - 결과 (3) 테스트 코드 작성(firebase_test/index.html) - 구성 현재 위치 ㄴ firebase_test - index.html - index.html - 상황에 ..
0. flow chart - python(pymysql, pandas) 을 통한 mysql 자료 파일화(.txt) - mutt를 통한 결과 파일 메일 전송 - crontab을 사용한 작업 자동화 1. 자료 준비 1) mutt 설치(in Mac) brew install mutt 2) DB 준비 - 링크 2. 자료 추출을 위한 python 파일 생성(db2csv.py) 1) library 호출 import pymysql import pandas as pd 2) DB 연결 함수 제작 def db_connector(): db = pymysql.connect(host='127.0.0.1', port=3306, user='***', passwd='***', db='pbj_db', charset='utf8') cur..
0. 목표 - 개발환경이 열악한 윈도우즈 환경에서의 자동화 1. flow chart 1) python으로 현재시간 확인 2) 1)의 결과를 구글 스프레드 시트에 자동으로 입력 3) 작업 스케줄러로 업무 자동화 실행 2. 예제 코드 제작(구글시트 연결 참고) 1) 라이브러리 호출 import gspread from oauth2client.service_account import ServiceAccountCredentials from datetime import datetime 2) 현재 시간 계산 time = str(datetime.now()) 3) 구글 스프레드시트 연결(구글시트 연결 참고) scope = ['https://spreadsheets.google.com/feeds'] json_file_nam..
0. Google Apps Script 소개 - 링크 - 자바 스크립트 형식으로 이루어져 있으며, 구글 내의 서비스(구글 칼렌더, 구글 문서, 구글 드라이브, 구글 슬라이드, 구글 스프레드 시트)를 관리 가능 - mysql 의 데이터를 가져올수도 있으며, API 생성도 가능 1. 테스트 1) 빈 스프레드 시트 생성 2) 도구 -> 스크립트 편집기 3) 스크립트 기본 형태 4) 코드 입력 function Hello() { ss = SpreadsheetApp.getActiveSheet(); r = ss.getRange('a1'); r.setValue('gs_test'); Logger.log(ss.getName()); Logger.log(r.getValue()); } (1) 활성화 시트 지정 (2) 'a1' ..
1. 정의 - 분산형 RESTful 검색 및 분석 엔진 - 예상 가능한 / 예상치 못한 항목 탐색 2. 장점 - 분석 : 정형 / 비정형 데이터 검색 및 결합 지원 - 속도 : BKD tree 구현을 통한 액세스 속도 향상 * BKD tree : dynamic data structure based on the kd-tree - 확장성 : 모든 유형의 인프라에서 실행 가능 - 정확도 : 오타 같은 복잡성도 고려 가능 - 복원력 : 클러스터간 복제를 통한 데이터 보호 3. 설치 1) JAVA 8 필요 - brew install elasticsearch를 하게 되면 아래와 같은 에러 발생 - 아래의 문구 입력 brew cask install homebrew/cask-versions/adoptopenjdk8 2..