src/Util.jl

Sat, 28 Dec 2019 02:08:30 +0200

author
Tuomo Valkonen <tuomov@iki.fi>
date
Sat, 28 Dec 2019 02:08:30 +0200
changeset 8
44ac3683263c
parent 7
900a7e18ca01
child 9
59d94d475b5a
permissions
-rw-r--r--

@threadsif

0
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
1 #########################
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
2 # Some utility functions
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
3 #########################
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
4
4
59fd17a3cea0 Add __precompile__() for what it is worth
Tuomo Valkonen <tuomov@iki.fi>
parents: 0
diff changeset
5 __precompile__()
59fd17a3cea0 Add __precompile__() for what it is worth
Tuomo Valkonen <tuomov@iki.fi>
parents: 0
diff changeset
6
0
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
7 module Util
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
8
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
9 ##############
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
10 # Our exports
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
11 ##############
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
12
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
13 export map_first_slice!,
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
14 reduce_first_slice,
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
15 norm₂,
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
16 γnorm₂,
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
17 norm₂w,
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
18 norm₂²,
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
19 norm₂w²,
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
20 norm₂₁,
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
21 γnorm₂₁,
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
22 dot,
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
23 mean,
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
24 proj_norm₂₁ball!,
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
25 curry,
8
44ac3683263c @threadsif
Tuomo Valkonen <tuomov@iki.fi>
parents: 7
diff changeset
26 ⬿,
44ac3683263c @threadsif
Tuomo Valkonen <tuomov@iki.fi>
parents: 7
diff changeset
27 @threadsif
44ac3683263c @threadsif
Tuomo Valkonen <tuomov@iki.fi>
parents: 7
diff changeset
28
44ac3683263c @threadsif
Tuomo Valkonen <tuomov@iki.fi>
parents: 7
diff changeset
29
44ac3683263c @threadsif
Tuomo Valkonen <tuomov@iki.fi>
parents: 7
diff changeset
30 ##########
44ac3683263c @threadsif
Tuomo Valkonen <tuomov@iki.fi>
parents: 7
diff changeset
31 # Threads
44ac3683263c @threadsif
Tuomo Valkonen <tuomov@iki.fi>
parents: 7
diff changeset
32 ##########
44ac3683263c @threadsif
Tuomo Valkonen <tuomov@iki.fi>
parents: 7
diff changeset
33
44ac3683263c @threadsif
Tuomo Valkonen <tuomov@iki.fi>
parents: 7
diff changeset
34 macro threadsif(threads, loop)
44ac3683263c @threadsif
Tuomo Valkonen <tuomov@iki.fi>
parents: 7
diff changeset
35 return esc(:(if $threads
44ac3683263c @threadsif
Tuomo Valkonen <tuomov@iki.fi>
parents: 7
diff changeset
36 Threads.@threads $loop
44ac3683263c @threadsif
Tuomo Valkonen <tuomov@iki.fi>
parents: 7
diff changeset
37 else
44ac3683263c @threadsif
Tuomo Valkonen <tuomov@iki.fi>
parents: 7
diff changeset
38 $loop
44ac3683263c @threadsif
Tuomo Valkonen <tuomov@iki.fi>
parents: 7
diff changeset
39 end))
44ac3683263c @threadsif
Tuomo Valkonen <tuomov@iki.fi>
parents: 7
diff changeset
40 end
0
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
41
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
42 ########################
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
43 # Functional programming
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
44 #########################
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
45
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
46 curry = (f::Function,y...)->(z...)->f(y...,z...)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
47
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
48 ###############################
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
49 # For working with NamedTuples
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
50 ###############################
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
51
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
52 ⬿ = merge
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
53
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
54 ######
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
55 # map
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
56 ######
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
57
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
58 @inline function map_first_slice!(f!, y)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
59 for i in CartesianIndices(size(y)[2:end])
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
60 @inbounds f!(@view(y[:, i]))
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
61 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
62 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
63
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
64 @inline function map_first_slice!(x, f!, y)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
65 for i in CartesianIndices(size(y)[2:end])
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
66 @inbounds f!(@view(x[:, i]), @view(y[:, i]))
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
67 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
68 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
69
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
70 @inline function reduce_first_slice(f, y; init=0.0)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
71 accum=init
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
72 for i in CartesianIndices(size(y)[2:end])
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
73 @inbounds accum=f(accum, @view(y[:, i]))
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
74 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
75 return accum
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
76 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
77
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
78 ###########################
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
79 # Norms and inner products
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
80 ###########################
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
81
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
82 @inline function dot(x, y)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
83 @assert(length(x)==length(y))
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
84
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
85 accum=0
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
86 for i=1:length(y)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
87 @inbounds accum += x[i]*y[i]
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
88 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
89 return accum
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
90 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
91
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
92 @inline function norm₂w²(y, w)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
93 #Insane memory allocs
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
94 #return @inbounds sum(i -> y[i]*y[i]*w[i], 1:length(y))
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
95 accum=0
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
96 for i=1:length(y)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
97 @inbounds accum=accum+y[i]*y[i]*w[i]
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
98 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
99 return accum
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
100 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
101
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
102 @inline function norm₂w(y, w)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
103 return √(norm₂w²(y, w))
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
104 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
105
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
106 @inline function norm₂²(y)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
107 #Insane memory allocs
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
108 #return @inbounds sum(i -> y[i]*y[i], 1:length(y))
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
109 accum=0
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
110 for i=1:length(y)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
111 @inbounds accum=accum+y[i]*y[i]
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
112 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
113 return accum
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
114 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
115
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
116 @inline function norm₂(y)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
117 return √(norm₂²(y))
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
118 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
119
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
120 @inline function γnorm₂(y, γ)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
121 hubersq = xsq -> begin
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
122 x=√xsq
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
123 return if x > γ
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
124 x-γ/2
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
125 elseif x<-γ
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
126 -x-γ/2
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
127 else
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
128 xsq/(2γ)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
129 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
130 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
131
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
132 if γ==0
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
133 return norm₂(y)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
134 else
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
135 return hubersq(norm₂²(y))
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
136 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
137 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
138
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
139 function norm₂₁(y)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
140 return reduce_first_slice((s, x) -> s+norm₂(x), y)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
141 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
142
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
143 function γnorm₂₁(y,γ)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
144 return reduce_first_slice((s, x) -> s+γnorm₂(x, γ), y)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
145 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
146
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
147 function mean(v)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
148 return sum(v)/prod(size(v))
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
149 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
150
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
151 @inline function proj_norm₂₁ball!(y, α)
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
152 α²=α*α
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
153
7
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
154 if ndims(y)==3 && size(y, 1)==2
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
155 @inbounds for i=1:size(y, 2)
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
156 @simd for j=1:size(y, 3)
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
157 n² = y[1,i,j]*y[1,i,j]+y[2,i,j]*y[2,i,j]
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
158 if n²>α²
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
159 v = α/√n²
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
160 y[1, i, j] *= v
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
161 y[2, i, j] *= v
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
162 end
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
163 end
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
164 end
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
165 else
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
166 y′=reshape(y, (size(y, 1), prod(size(y)[2:end])))
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
167
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
168 @inbounds @simd for i=1:size(y′, 2)# in CartesianIndices(size(y)[2:end])
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
169 n² = norm₂²(@view(y′[:, i]))
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
170 if n²>α²
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
171 y′[:, i] .*= (α/√n²)
900a7e18ca01 optimise
Tuomo Valkonen <tuomov@iki.fi>
parents: 4
diff changeset
172 end
0
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
173 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
174 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
175 end
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
176
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
177 end # Module
888dfd34d24a Initialise
Tuomo Valkonen <tuomov@iki.fi>
parents:
diff changeset
178

mercurial