Imported Upstream version 7.53.1
[platform/upstream/curl.git] / lib / setup-vms.h
1 #ifndef HEADER_CURL_SETUP_VMS_H
2 #define HEADER_CURL_SETUP_VMS_H
3 /***************************************************************************
4  *                                  _   _ ____  _
5  *  Project                     ___| | | |  _ \| |
6  *                             / __| | | | |_) | |
7  *                            | (__| |_| |  _ <| |___
8  *                             \___|\___/|_| \_\_____|
9  *
10  * Copyright (C) 1998 - 2016, Daniel Stenberg, <daniel@haxx.se>, et al.
11  *
12  * This software is licensed as described in the file COPYING, which
13  * you should have received as part of this distribution. The terms
14  * are also available at https://curl.haxx.se/docs/copyright.html.
15  *
16  * You may opt to use, copy, modify, merge, publish, distribute and/or sell
17  * copies of the Software, and permit persons to whom the Software is
18  * furnished to do so, under the terms of the COPYING file.
19  *
20  * This software is distributed on an "AS IS" basis, WITHOUT WARRANTY OF ANY
21  * KIND, either express or implied.
22  *
23  ***************************************************************************/
24
25 /*                                                                         */
26 /* JEM, 12/30/12, VMS now generates config.h, so only define wrappers for  */
27 /*                getenv(), getpwuid() and provide is_vms_shell()          */
28 /*                Also need upper case symbols for system services, and    */
29 /*                OpenSSL, and some Kerberos image                         */
30
31 #ifdef __DECC
32 #pragma message save
33 #pragma message disable dollarid
34 #endif
35
36 /* Hide the stuff we are overriding */
37 #define getenv decc_getenv
38 #ifdef __DECC
39 #   if __INITIAL_POINTER_SIZE != 64
40 #       define getpwuid decc_getpwuid
41 #   endif
42 #endif
43 #include <stdlib.h>
44 char *decc$getenv(const char *__name);
45 #include <pwd.h>
46
47 #include <string.h>
48 #include <unixlib.h>
49
50 #undef getenv
51 #undef getpwuid
52 #define getenv vms_getenv
53 #define getpwuid vms_getpwuid
54
55 /* VAX needs these in upper case when compiling exact case */
56 #define sys$assign SYS$ASSIGN
57 #define sys$dassgn SYS$DASSGN
58 #define sys$qiow SYS$QIOW
59
60 #ifdef __DECC
61 #   if __INITIAL_POINTER_SIZE
62 #       pragma __pointer_size __save
63 #   endif
64 #endif
65
66 #if __USE_LONG_GID_T
67 #   define decc_getpwuid DECC$__LONG_GID_GETPWUID
68 #else
69 #   if __INITIAL_POINTER_SIZE
70 #       define decc_getpwuid decc$__32_getpwuid
71 #   else
72 #       define decc_getpwuid decc$getpwuid
73 #   endif
74 #endif
75
76     struct passwd * decc_getpwuid(uid_t uid);
77
78 #ifdef __DECC
79 #   if __INITIAL_POINTER_SIZE == 32
80 /* Translate the path, but only if the path is a VMS file specification */
81 /* The translation is usually only needed for older versions of VMS */
82 static char *vms_translate_path(const char *path)
83 {
84   char *unix_path;
85   char *test_str;
86
87   /* See if the result is in VMS format, if not, we are done */
88   /* Assume that this is a PATH, not just some data */
89   test_str = strpbrk(path, ":[<^");
90   if(test_str == NULL) {
91     return (char *)path;
92   }
93
94   unix_path = decc$translate_vms(path);
95
96   if((int)unix_path <= 0) {
97     /* We can not translate it, so return the original string */
98     return (char *)path;
99   }
100 }
101 #   else
102     /* VMS translate path is actually not needed on the current 64 bit */
103     /* VMS platforms, so instead of figuring out the pointer settings */
104     /* Change it to a noop */
105 #   define vms_translate_path(__path) __path
106 #   endif
107 #endif
108
109 #ifdef __DECC
110 #   if __INITIAL_POINTER_SIZE
111 #       pragma __pointer_size __restore
112 #   endif
113 #endif
114
115 static char *vms_getenv(const char *envvar)
116 {
117   char *result;
118   char *vms_path;
119
120   /* first use the DECC getenv() function */
121   result = decc$getenv(envvar);
122   if(result == NULL) {
123     return result;
124   }
125
126   vms_path = result;
127   result = vms_translate_path(vms_path);
128
129   /* note that if you backport this to use VAX C RTL, that the VAX C RTL */
130   /* may do a malloc(2048) for each call to getenv(), so you will need   */
131   /* to add a free(vms_path) */
132   /* Do not do a free() for DEC C RTL builds, which should be used for */
133   /* VMS 5.5-2 and later, even if using GCC */
134
135   return result;
136 }
137
138
139 static struct passwd vms_passwd_cache;
140
141 static struct passwd * vms_getpwuid(uid_t uid)
142 {
143   struct passwd * my_passwd;
144
145 /* Hack needed to support 64 bit builds, decc_getpwnam is 32 bit only */
146 #ifdef __DECC
147 #   if __INITIAL_POINTER_SIZE
148   __char_ptr32 unix_path;
149 #   else
150   char *unix_path;
151 #   endif
152 #else
153   char *unix_path;
154 #endif
155
156   my_passwd = decc_getpwuid(uid);
157   if(my_passwd == NULL) {
158     return my_passwd;
159   }
160
161   unix_path = vms_translate_path(my_passwd->pw_dir);
162
163   if((long)unix_path <= 0) {
164     /* We can not translate it, so return the original string */
165     return my_passwd;
166   }
167
168   /* If no changes needed just return it */
169   if(unix_path == my_passwd->pw_dir) {
170     return my_passwd;
171   }
172
173   /* Need to copy the structure returned */
174   /* Since curl is only using pw_dir, no need to fix up */
175   /* the pw_shell when running under Bash */
176   vms_passwd_cache.pw_name = my_passwd->pw_name;
177   vms_passwd_cache.pw_uid = my_passwd->pw_uid;
178   vms_passwd_cache.pw_gid = my_passwd->pw_uid;
179   vms_passwd_cache.pw_dir = unix_path;
180   vms_passwd_cache.pw_shell = my_passwd->pw_shell;
181
182   return &vms_passwd_cache;
183 }
184
185 #ifdef __DECC
186 #pragma message restore
187 #endif
188
189 /* Bug - VMS OpenSSL and Kerberos universal symbols are in uppercase only */
190 /* VMS libraries should have universal symbols in exact and uppercase */
191
192 #define ASN1_INTEGER_get ASN1_INTEGER_GET
193 #define ASN1_STRING_data ASN1_STRING_DATA
194 #define ASN1_STRING_length ASN1_STRING_LENGTH
195 #define ASN1_STRING_print ASN1_STRING_PRINT
196 #define ASN1_STRING_to_UTF8 ASN1_STRING_TO_UTF8
197 #define ASN1_STRING_type ASN1_STRING_TYPE
198 #define BIO_ctrl BIO_CTRL
199 #define BIO_free BIO_FREE
200 #define BIO_new BIO_NEW
201 #define BIO_s_mem BIO_S_MEM
202 #define BN_bn2bin BN_BN2BIN
203 #define BN_num_bits BN_NUM_BITS
204 #define CRYPTO_cleanup_all_ex_data CRYPTO_CLEANUP_ALL_EX_DATA
205 #define CRYPTO_free CRYPTO_FREE
206 #define CRYPTO_malloc CRYPTO_MALLOC
207 #define CONF_modules_load_file CONF_MODULES_LOAD_FILE
208 #ifdef __VAX
209 #  ifdef VMS_OLD_SSL
210   /* Ancient OpenSSL on VAX/VMS missing this constant */
211 #    define CONF_MFLAGS_IGNORE_MISSING_FILE 0x10
212 #    undef CONF_modules_load_file
213      static int CONF_modules_load_file(const char *filename,
214                                        const char *appname,
215                                        unsigned long flags) {
216              return 1;
217      }
218 #  endif
219 #endif
220 #define DES_ecb_encrypt DES_ECB_ENCRYPT
221 #define DES_set_key DES_SET_KEY
222 #define DES_set_odd_parity DES_SET_ODD_PARITY
223 #define ENGINE_ctrl ENGINE_CTRL
224 #define ENGINE_ctrl_cmd ENGINE_CTRL_CMD
225 #define ENGINE_finish ENGINE_FINISH
226 #define ENGINE_free ENGINE_FREE
227 #define ENGINE_get_first ENGINE_GET_FIRST
228 #define ENGINE_get_id ENGINE_GET_ID
229 #define ENGINE_get_next ENGINE_GET_NEXT
230 #define ENGINE_init ENGINE_INIT
231 #define ENGINE_load_builtin_engines ENGINE_LOAD_BUILTIN_ENGINES
232 #define ENGINE_load_private_key ENGINE_LOAD_PRIVATE_KEY
233 #define ENGINE_set_default ENGINE_SET_DEFAULT
234 #define ERR_clear_error ERR_CLEAR_ERROR
235 #define ERR_error_string ERR_ERROR_STRING
236 #define ERR_error_string_n ERR_ERROR_STRING_N
237 #define ERR_free_strings ERR_FREE_STRINGS
238 #define ERR_get_error ERR_GET_ERROR
239 #define ERR_peek_error ERR_PEEK_ERROR
240 #define ERR_remove_state ERR_REMOVE_STATE
241 #define EVP_PKEY_copy_parameters EVP_PKEY_COPY_PARAMETERS
242 #define EVP_PKEY_free EVP_PKEY_FREE
243 #define EVP_cleanup EVP_CLEANUP
244 #define GENERAL_NAMES_free GENERAL_NAMES_FREE
245 #define i2d_X509_PUBKEY I2D_X509_PUBKEY
246 #define MD4_Final MD4_FINAL
247 #define MD4_Init MD4_INIT
248 #define MD4_Update MD4_UPDATE
249 #define MD5_Final MD5_FINAL
250 #define MD5_Init MD5_INIT
251 #define MD5_Update MD5_UPDATE
252 #define OPENSSL_add_all_algo_noconf OPENSSL_ADD_ALL_ALGO_NOCONF
253 #ifndef __VAX
254 #define OPENSSL_load_builtin_modules OPENSSL_LOAD_BUILTIN_MODULES
255 #endif
256 #define PEM_read_X509 PEM_READ_X509
257 #define PEM_write_bio_X509 PEM_WRITE_BIO_X509
258 #define PKCS12_PBE_add PKCS12_PBE_ADD
259 #define PKCS12_free PKCS12_FREE
260 #define PKCS12_parse PKCS12_PARSE
261 #define RAND_add RAND_ADD
262 #define RAND_bytes RAND_BYTES
263 #define RAND_egd RAND_EGD
264 #define RAND_file_name RAND_FILE_NAME
265 #define RAND_load_file RAND_LOAD_FILE
266 #define RAND_status RAND_STATUS
267 #define SSL_CIPHER_get_name SSL_CIPHER_GET_NAME
268 #define SSL_CTX_add_client_CA SSL_CTX_ADD_CLIENT_CA
269 #define SSL_CTX_callback_ctrl SSL_CTX_CALLBACK_CTRL
270 #define SSL_CTX_check_private_key SSL_CTX_CHECK_PRIVATE_KEY
271 #define SSL_CTX_ctrl SSL_CTX_CTRL
272 #define SSL_CTX_free SSL_CTX_FREE
273 #define SSL_CTX_get_cert_store SSL_CTX_GET_CERT_STORE
274 #define SSL_CTX_load_verify_locations SSL_CTX_LOAD_VERIFY_LOCATIONS
275 #define SSL_CTX_new SSL_CTX_NEW
276 #define SSL_CTX_set_cipher_list SSL_CTX_SET_CIPHER_LIST
277 #define SSL_CTX_set_def_passwd_cb_ud SSL_CTX_SET_DEF_PASSWD_CB_UD
278 #define SSL_CTX_set_default_passwd_cb SSL_CTX_SET_DEFAULT_PASSWD_CB
279 #define SSL_CTX_set_msg_callback SSL_CTX_SET_MSG_CALLBACK
280 #define SSL_CTX_set_verify SSL_CTX_SET_VERIFY
281 #define SSL_CTX_use_PrivateKey SSL_CTX_USE_PRIVATEKEY
282 #define SSL_CTX_use_PrivateKey_file SSL_CTX_USE_PRIVATEKEY_FILE
283 #define SSL_CTX_use_cert_chain_file SSL_CTX_USE_CERT_CHAIN_FILE
284 #define SSL_CTX_use_certificate SSL_CTX_USE_CERTIFICATE
285 #define SSL_CTX_use_certificate_file SSL_CTX_USE_CERTIFICATE_FILE
286 #define SSL_SESSION_free SSL_SESSION_FREE
287 #define SSL_connect SSL_CONNECT
288 #define SSL_free SSL_FREE
289 #define SSL_get1_session SSL_GET1_SESSION
290 #define SSL_get_certificate SSL_GET_CERTIFICATE
291 #define SSL_get_current_cipher SSL_GET_CURRENT_CIPHER
292 #define SSL_get_error SSL_GET_ERROR
293 #define SSL_get_peer_cert_chain SSL_GET_PEER_CERT_CHAIN
294 #define SSL_get_peer_certificate SSL_GET_PEER_CERTIFICATE
295 #define SSL_get_privatekey SSL_GET_PRIVATEKEY
296 #define SSL_get_session SSL_GET_SESSION
297 #define SSL_get_shutdown SSL_GET_SHUTDOWN
298 #define SSL_get_verify_result SSL_GET_VERIFY_RESULT
299 #define SSL_library_init SSL_LIBRARY_INIT
300 #define SSL_load_error_strings SSL_LOAD_ERROR_STRINGS
301 #define SSL_new SSL_NEW
302 #define SSL_peek SSL_PEEK
303 #define SSL_pending SSL_PENDING
304 #define SSL_read SSL_READ
305 #define SSL_set_connect_state SSL_SET_CONNECT_STATE
306 #define SSL_set_fd SSL_SET_FD
307 #define SSL_set_session SSL_SET_SESSION
308 #define SSL_shutdown SSL_SHUTDOWN
309 #define SSL_version SSL_VERSION
310 #define SSL_write SSL_WRITE
311 #define SSLeay SSLEAY
312 #define SSLv23_client_method SSLV23_CLIENT_METHOD
313 #define SSLv3_client_method SSLV3_CLIENT_METHOD
314 #define TLSv1_client_method TLSV1_CLIENT_METHOD
315 #define UI_create_method UI_CREATE_METHOD
316 #define UI_destroy_method UI_DESTROY_METHOD
317 #define UI_get0_user_data UI_GET0_USER_DATA
318 #define UI_get_input_flags UI_GET_INPUT_FLAGS
319 #define UI_get_string_type UI_GET_STRING_TYPE
320 #define UI_create_method UI_CREATE_METHOD
321 #define UI_destroy_method UI_DESTROY_METHOD
322 #define UI_method_get_closer UI_METHOD_GET_CLOSER
323 #define UI_method_get_opener UI_METHOD_GET_OPENER
324 #define UI_method_get_reader UI_METHOD_GET_READER
325 #define UI_method_get_writer UI_METHOD_GET_WRITER
326 #define UI_method_set_closer UI_METHOD_SET_CLOSER
327 #define UI_method_set_opener UI_METHOD_SET_OPENER
328 #define UI_method_set_reader UI_METHOD_SET_READER
329 #define UI_method_set_writer UI_METHOD_SET_WRITER
330 #define UI_OpenSSL UI_OPENSSL
331 #define UI_set_result UI_SET_RESULT
332 #define X509V3_EXT_print X509V3_EXT_PRINT
333 #define X509_EXTENSION_get_critical X509_EXTENSION_GET_CRITICAL
334 #define X509_EXTENSION_get_data X509_EXTENSION_GET_DATA
335 #define X509_EXTENSION_get_object X509_EXTENSION_GET_OBJECT
336 #define X509_LOOKUP_file X509_LOOKUP_FILE
337 #define X509_NAME_ENTRY_get_data X509_NAME_ENTRY_GET_DATA
338 #define X509_NAME_get_entry X509_NAME_GET_ENTRY
339 #define X509_NAME_get_index_by_NID X509_NAME_GET_INDEX_BY_NID
340 #define X509_NAME_print_ex X509_NAME_PRINT_EX
341 #define X509_STORE_CTX_get_current_cert X509_STORE_CTX_GET_CURRENT_CERT
342 #define X509_STORE_add_lookup X509_STORE_ADD_LOOKUP
343 #define X509_STORE_set_flags X509_STORE_SET_FLAGS
344 #define X509_check_issued X509_CHECK_ISSUED
345 #define X509_free X509_FREE
346 #define X509_get_ext_d2i X509_GET_EXT_D2I
347 #define X509_get_issuer_name X509_GET_ISSUER_NAME
348 #define X509_get_pubkey X509_GET_PUBKEY
349 #define X509_get_serialNumber X509_GET_SERIALNUMBER
350 #define X509_get_subject_name X509_GET_SUBJECT_NAME
351 #define X509_load_crl_file X509_LOAD_CRL_FILE
352 #define X509_verify_cert_error_string X509_VERIFY_CERT_ERROR_STRING
353 #define d2i_PKCS12_fp D2I_PKCS12_FP
354 #define i2t_ASN1_OBJECT I2T_ASN1_OBJECT
355 #define sk_num SK_NUM
356 #define sk_pop SK_POP
357 #define sk_pop_free SK_POP_FREE
358 #define sk_value SK_VALUE
359 #ifdef __VAX
360 #define OPENSSL_NO_SHA256
361 #endif
362 #define SHA256_Final SHA256_FINAL
363 #define SHA256_Init SHA256_INIT
364 #define SHA256_Update SHA256_UPDATE
365
366 #define USE_UPPERCASE_GSSAPI 1
367 #define gss_seal GSS_SEAL
368 #define gss_unseal GSS_UNSEAL
369
370 #define USE_UPPERCASE_KRBAPI 1
371
372 /* AI_NUMERICHOST needed for IP V6 support in Curl */
373 #ifdef HAVE_NETDB_H
374 #include <netdb.h>
375 #ifndef AI_NUMERICHOST
376 #ifdef ENABLE_IPV6
377 #undef ENABLE_IPV6
378 #endif
379 #endif
380 #endif
381
382 /* VAX symbols are always in uppercase */
383 #ifdef __VAX
384 #define inflate INFLATE
385 #define inflateEnd INFLATEEND
386 #define inflateInit2_ INFLATEINIT2_
387 #define inflateInit_ INFLATEINIT_
388 #define zlibVersion ZLIBVERSION
389 #endif
390
391 /* Older VAX OpenSSL port defines these as Macros */
392 /* Need to include the headers first and then redefine */
393 /* that way a newer port will also work if some one has one */
394 #ifdef __VAX
395
396 #   if (OPENSSL_VERSION_NUMBER < 0x00907001L)
397 #       define des_set_odd_parity DES_SET_ODD_PARITY
398 #       define des_set_key DES_SET_KEY
399 #       define des_ecb_encrypt DES_ECB_ENCRYPT
400
401 #   endif
402 #   include <openssl/evp.h>
403 #   ifndef OpenSSL_add_all_algorithms
404 #       define OpenSSL_add_all_algorithms OPENSSL_ADD_ALL_ALGORITHMS
405         void OPENSSL_ADD_ALL_ALGORITHMS(void);
406 #   endif
407
408     /* Curl defines these to lower case and VAX needs them in upper case */
409     /* So we need static routines */
410 #   if (OPENSSL_VERSION_NUMBER < 0x00907001L)
411
412 #       undef des_set_odd_parity
413 #       undef DES_set_odd_parity
414 #       undef des_set_key
415 #       undef DES_set_key
416 #       undef des_ecb_encrypt
417 #       undef DES_ecb_encrypt
418
419         static void des_set_odd_parity(des_cblock *key) {
420             DES_SET_ODD_PARITY(key);
421         }
422
423         static int des_set_key(const_des_cblock *key,
424                                des_key_schedule schedule) {
425             return DES_SET_KEY(key, schedule);
426         }
427
428         static void des_ecb_encrypt(const_des_cblock *input,
429                                     des_cblock *output,
430                                     des_key_schedule ks, int enc) {
431             DES_ECB_ENCRYPT(input, output, ks, enc);
432         }
433 #endif
434 /* Need this to stop a macro redefinition error */
435 #if OPENSSL_VERSION_NUMBER < 0x00907000L
436 #   ifdef X509_STORE_set_flags
437 #       undef X509_STORE_set_flags
438 #       define X509_STORE_set_flags(x,y) Curl_nop_stmt
439 #   endif
440 #endif
441 #endif
442
443 #endif /* HEADER_CURL_SETUP_VMS_H */