release 2017.11.06
[ytdl] / youtube_dl / update.py
1 from __future__ import unicode_literals
2
3 import io
4 import json
5 import traceback
6 import hashlib
7 import os
8 import subprocess
9 import sys
10 from zipimport import zipimporter
11
12 from .utils import encode_compat_str
13
14 from .version import __version__
15
16
17 def rsa_verify(message, signature, key):
18     from hashlib import sha256
19     assert isinstance(message, bytes)
20     byte_size = (len(bin(key[0])) - 2 + 8 - 1) // 8
21     signature = ('%x' % pow(int(signature, 16), key[1], key[0])).encode()
22     signature = (byte_size * 2 - len(signature)) * b'0' + signature
23     asn1 = b'3031300d060960864801650304020105000420'
24     asn1 += sha256(message).hexdigest().encode()
25     if byte_size < len(asn1) // 2 + 11:
26         return False
27     expected = b'0001' + (byte_size - len(asn1) // 2 - 3) * b'ff' + b'00' + asn1
28     return expected == signature
29
30
31 def update_self(to_screen, verbose, opener):
32     """Update the program file with the latest version from the repository"""
33
34     UPDATE_URL = 'https://rg3.github.io/youtube-dl/update/'
35     VERSION_URL = UPDATE_URL + 'LATEST_VERSION'
36     JSON_URL = UPDATE_URL + 'versions.json'
37     UPDATES_RSA_KEY = (0x9d60ee4d8f805312fdb15a62f87b95bd66177b91df176765d13514a0f1754bcd2057295c5b6f1d35daa6742c3ffc9a82d3e118861c207995a8031e151d863c9927e304576bc80692bc8e094896fcf11b66f3e29e04e3a71e9a11558558acea1840aec37fc396fb6b65dc81a1c4144e03bd1c011de62e3f1357b327d08426fe93, 65537)
38
39     if not isinstance(globals().get('__loader__'), zipimporter) and not hasattr(sys, 'frozen'):
40         to_screen('It looks like you installed youtube-dl with a package manager, pip, setup.py or a tarball. Please use that to update.')
41         return
42
43     # Check if there is a new version
44     try:
45         newversion = opener.open(VERSION_URL).read().decode('utf-8').strip()
46     except Exception:
47         if verbose:
48             to_screen(encode_compat_str(traceback.format_exc()))
49         to_screen('ERROR: can\'t find the current version. Please try again later.')
50         return
51     if newversion == __version__:
52         to_screen('youtube-dl is up-to-date (' + __version__ + ')')
53         return
54
55     # Download and check versions info
56     try:
57         versions_info = opener.open(JSON_URL).read().decode('utf-8')
58         versions_info = json.loads(versions_info)
59     except Exception:
60         if verbose:
61             to_screen(encode_compat_str(traceback.format_exc()))
62         to_screen('ERROR: can\'t obtain versions info. Please try again later.')
63         return
64     if 'signature' not in versions_info:
65         to_screen('ERROR: the versions file is not signed or corrupted. Aborting.')
66         return
67     signature = versions_info['signature']
68     del versions_info['signature']
69     if not rsa_verify(json.dumps(versions_info, sort_keys=True).encode('utf-8'), signature, UPDATES_RSA_KEY):
70         to_screen('ERROR: the versions file signature is invalid. Aborting.')
71         return
72
73     version_id = versions_info['latest']
74
75     def version_tuple(version_str):
76         return tuple(map(int, version_str.split('.')))
77     if version_tuple(__version__) >= version_tuple(version_id):
78         to_screen('youtube-dl is up to date (%s)' % __version__)
79         return
80
81     to_screen('Updating to version ' + version_id + ' ...')
82     version = versions_info['versions'][version_id]
83
84     print_notes(to_screen, versions_info['versions'])
85
86     # sys.executable is set to the full pathname of the exe-file for py2exe
87     filename = sys.executable if hasattr(sys, 'frozen') else sys.argv[0]
88
89     if not os.access(filename, os.W_OK):
90         to_screen('ERROR: no write permissions on %s' % filename)
91         return
92
93     # Py2EXE
94     if hasattr(sys, 'frozen'):
95         exe = filename
96         directory = os.path.dirname(exe)
97         if not os.access(directory, os.W_OK):
98             to_screen('ERROR: no write permissions on %s' % directory)
99             return
100
101         try:
102             urlh = opener.open(version['exe'][0])
103             newcontent = urlh.read()
104             urlh.close()
105         except (IOError, OSError):
106             if verbose:
107                 to_screen(encode_compat_str(traceback.format_exc()))
108             to_screen('ERROR: unable to download latest version')
109             return
110
111         newcontent_hash = hashlib.sha256(newcontent).hexdigest()
112         if newcontent_hash != version['exe'][1]:
113             to_screen('ERROR: the downloaded file hash does not match. Aborting.')
114             return
115
116         try:
117             with open(exe + '.new', 'wb') as outf:
118                 outf.write(newcontent)
119         except (IOError, OSError):
120             if verbose:
121                 to_screen(encode_compat_str(traceback.format_exc()))
122             to_screen('ERROR: unable to write the new version')
123             return
124
125         try:
126             bat = os.path.join(directory, 'youtube-dl-updater.bat')
127             with io.open(bat, 'w') as batfile:
128                 batfile.write('''
129 @echo off
130 echo Waiting for file handle to be closed ...
131 ping 127.0.0.1 -n 5 -w 1000 > NUL
132 move /Y "%s.new" "%s" > NUL
133 echo Updated youtube-dl to version %s.
134 start /b "" cmd /c del "%%~f0"&exit /b"
135                 \n''' % (exe, exe, version_id))
136
137             subprocess.Popen([bat])  # Continues to run in the background
138             return  # Do not show premature success messages
139         except (IOError, OSError):
140             if verbose:
141                 to_screen(encode_compat_str(traceback.format_exc()))
142             to_screen('ERROR: unable to overwrite current version')
143             return
144
145     # Zip unix package
146     elif isinstance(globals().get('__loader__'), zipimporter):
147         try:
148             urlh = opener.open(version['bin'][0])
149             newcontent = urlh.read()
150             urlh.close()
151         except (IOError, OSError):
152             if verbose:
153                 to_screen(encode_compat_str(traceback.format_exc()))
154             to_screen('ERROR: unable to download latest version')
155             return
156
157         newcontent_hash = hashlib.sha256(newcontent).hexdigest()
158         if newcontent_hash != version['bin'][1]:
159             to_screen('ERROR: the downloaded file hash does not match. Aborting.')
160             return
161
162         try:
163             with open(filename, 'wb') as outf:
164                 outf.write(newcontent)
165         except (IOError, OSError):
166             if verbose:
167                 to_screen(encode_compat_str(traceback.format_exc()))
168             to_screen('ERROR: unable to overwrite current version')
169             return
170
171     to_screen('Updated youtube-dl. Restart youtube-dl to use the new version.')
172
173
174 def get_notes(versions, fromVersion):
175     notes = []
176     for v, vdata in sorted(versions.items()):
177         if v > fromVersion:
178             notes.extend(vdata.get('notes', []))
179     return notes
180
181
182 def print_notes(to_screen, versions, fromVersion=__version__):
183     notes = get_notes(versions, fromVersion)
184     if notes:
185         to_screen('PLEASE NOTE:')
186         for note in notes:
187             to_screen(note)